박찬범, 2024년 3월 28일 12:00 작성

2024년 3월 13일, EU에서 세계 최초의 AI법안을 승인했습니다. 이전까지 AI를 규제하는 내용을 담은 시행령, 행정 명령은 있었지만, 법률로 명문화한 법안은 이번이 최초라고 합니다. 우리 삶에 조금씩 자리 잡아가고 있는 AI, 앞으로 어떤 변화를 맞게 될지 함께 살펴볼까요?

↗️ The European Union's AI Act: What You Need to Know

이번 법안, 무엇이 새로운가?

이번 법안이 의미 있는 이유는 세계 최초의 ‘AI 법안’일 뿐만 아니라 AI를 규제할 새로운 방향성을 가져왔기 때문입니다. 이번 ‘AI법안’ 은 시장에 출시되는 AI 시스템을 “위험 기반 접근” 방식에 따라 4개의 단계로 위험도에 따라 분류합니다.

image from https://artificialintelligenceact.eu/

“용인 불가능한 위험”, ”고위험”, ”저위험”, ”최소한의 위험” 4개의 단계로 나눠지는데요, 용인 불가능한 위험은 사용이 금지되는 수준의 제재를 받습니다. AI에 적용되는 규제에 대해 자세히 알고 싶으신 분들께서는 아래의 링크를 참고해 주시길 바랍니다.

↗️ 유럽연합 인공지능법안

눈 여겨 볼 점 몇 가지

이번 AI법안에는 몇 가지 눈에 들어오는 점들이 있습니다. 먼저 벌금의 규모가 상당합니다.

1. 역대 최고 규모의 벌금. 이번 AI법안을 위반할 경우 EU로부터 3500만유로 혹은 연 매출의 7%중 더 높은 금액의 과징금을 부담하게 됩니다. 이는 전례 없이 최대 규모의 벌금 규모로, AI 업계의 기강(?)을 잡고 새로운 법을 관철 시키고자 하는 EU의 의지가 엿보입니다.
2. 글로벌 기업이라고 해서 예외는 없다. 또 한 가지는 EU에 본사를 두었건 중국에 본사를 두었던 EU에서 활동하기 원하는 모든 기업에 적용되는 규제라는 점입니다. 이전까지 통용되던 시행령이나 행정 명령으로는 국외의 기업까지 통제하기 어려운 점이 있었지만, 이번 법률의 제정을 통해 EU에서 활동하는 모든 글로벌 기업이 제재를 적용 받게 되었는데요, 세계의 트렌드가 어떻게 바뀔지 흥미롭습니다.
3. 투명성 의무의 존재. 이번 법안을 통해 ‘투명성 의무’가 존재하게 되었습니다. AI를 사용하여 생성된 컨텐츠나, AI 챗봇을 이용할 때 사용자에게 AI와 상호작용하고 있다는 점을 꼭 인지 시켜야 하는 의무인데요, 기존에 영업 비밀 등의 이유로 감추어왔던 구석을 하나씩 들추고 있는 새로운 흐름이 앞으로 어떻게 이어질까요?

한국의 AI 규제

한국의 AI의 규제는 몇 년 째 제자리 걸음을 반복하고 있습니다. 2020년 “인공지능 활용에 따른 개인정보 보호 강화 방안”, 2023년 12월 “인공지능 활용 윤리 위원회의 설치 이후 이렇다 할 규제 움직임이 없고 논의조차 활발하지 못한 것이 실정입니다.빠르게 변해가는 국제 표준에 따라가기 위해 발 맟춰 부지런히 움직일 필요가 있어 보입니다. 국제 사회의 AI규제에 대해 더 궁금하신 분들은 아래 두 개의 자료를 참고해주시길 바랍니다. ↗️ 인공지능 규제 현황과 시사점 ↗️ What’s next for AI regulation in 2024

참고할 자료