AI 법, EU 인공지능법

EU는 2021. 4. 21. 세계 최초로 AI를 전면적으로 규제하는 인공지능법(Artificial Intelligence Act) 초안을 발의했습니다.

 

현재 인공지능법 초안은 유럽 의회를 통과 후 이사회 결의를 통한 시행을 앞두고 있는 상황인데, 여전히 활발하게 논의가 진행되고 있습니다.

 

오늘은 위 법안이 어떤 내용인지 열어 보려 합니다.

장건 변호사(한국/미국)

BNL Law www.bnl.legal

BNL Law

연락처: david@bnl.legal , 010-6836-7578

 

EU의 인공지능법

 

EU의 인공지능법 (Artificial Intelligence Act) 초안은 “인공지능”을 기계학습 또는 논리·지식·통계 기반의 방식으로 개발되고 인간이 정의한 목적에 따라서 상호작용하는 환경에 영향을 미치는 콘텐츠를 생산·예측·추천·의사결정을 할 수 있는 소프트웨어로 정의합니다.

 

한편, 위 법은 인공지능을 위험의 수준에 따라 ①허용불가 위험(Unacceptable Risk) ②고위험(High-Risk) ③저위험(low or Minimal Risk)로 구분합니다.

 

허용불가 위험(Unacceptable Risk) 인공지능

 

인간이 인식할 수 없는 방식으로 인간의 취약성을 파고들어 행동·결정 등에 영향을 미치게 하거나, 실시간(real-time) 생체인식시스템을 사용하거나 특정 개인의 행동이나 신뢰를 예측하는 경우 등 인간의 존엄성과 기본권을 침해할 위험이 있는 경우로 금지됩니다.

 

다만, 미아 찾기, 잠재적 범죄 피해자 위치 파악, 테러 공격 또는 임박한 생명 위험에 대한 방지, 유럽연합 규정에 따른 용의자 추적에 사용되는 인공지능은 제외됩니다.

 

고위험(High-Risk) 인공지능

 

인공지능이 상품의 안전이나 인간의 기본권에 영향을 미칠 수 있는 인공지능으로서, 항공기 · 자동차 · 열차 · 기계 · 장난감 등에 탑재되거나 교통 · 수도 · 가스 · 전기 등 중요인프라 시스템에 탑재되어 오동작을 일으킬 위험이 발생하는 경우를 말합니다.

 

한편, 의회 수정안에서는 거대 온라인 플랫폼이해당 플랫폼의 유저 생산 콘텐츠를 서비스 이용자에게 추천하기 위하여 사용하는 인공지능 시스템도 포함시켰습니다.

 

여기서 거대 온라인 플랫폼이란 유럽연합 내 월 평균 활성 서비스 이용자 수가 4500만 이상인 소셜 미디어 플랫폼으로서 ‘거대 온라인 플랫폼’으로 지정된 것을 말합니다

 

고위험 인공지능 사업자는 유럽연합 회원국마다 별도로 설치된 인증기관에서 적합성 평가를 받고, 해당 인공지능을 등록하여야 합니다.

 

사업자는 인증·등록 이후에도 자체적으로 적합성 평가를 지속하여 품질을 유지하여야 합니다.

 

또한, 예측 가능한 위험의 식별·분석, 예측 가능한 오남용의 추정·평가, 사후 모니터링 등 인공지능의 위험관리시스템을 구축하여 관리하여야 하고, 기술문서를 작성해야 합니다.

 

뿐만 아니라, 인공지능이 학습·검증·테스트를 위한 데이터셋이 적절한 관련성과 대표성을 갖추고 오류가 없고 편향되지 않도록 관리해야 하며, 인공지능의 결과물이 어떻게 만들어졌는지 이용자가 이해하고 적절하게 사용할 수 있도록 설계·개발되어야 하며, 기능과 한계 등이 명확한 사용안내서가 제공되어야 합니다.

 

특히 사람이 효과적으로 인공지능을 감독할 수 있도록 설계되어야 하지요.

 

저위험(low or Minimal Risk) 인공지능

 

사람과 채팅을 하거나 바이오 신호를 감지해서 상호작용을 하는 경우, 또는 사진 · 음성 · 영상 등을 실제와 같이 만들어내는 경우에는 별도로 공시의무가 부과됩니다. 그 외에는 별다른 규제가 없습니다.

 

투명성 의무

 

한편, 의회 수정안에서는 인공지능 시스템의 투명성에 관하여 규정하고 있습니다.

 

먼저 사람과 교류할 수 있는 인공지능(to interact with natural person)에 대해서는 사람이 AI 시스템과 교류하고 있다는 점이 적시에, 명확하게 고지되어야  합니다.

 

또한 감정인식 시스템이나 생체인식 분류시스템의 사용자는 그 시스템의 작동 사실을 시스템에 노출되는 사람에게 적시에 명확하게 고지하고 사전에 동의를 얻어야 합니다.

 

또한 의회 수정안에서는 ‘딥페이크’를 ‘진정하거나 진실한 것이라고 잘못 보여지는 텍스트, 오디오 또는 시각적 콘텐츠와, 그 사람의 동의 없이 그 사람이 실제로 하지 않은 말 또는 행동을 묘사하는 것’이라고 정의하였습니다.

 

그러면서 ‘딥페이크’를 생성하거나 조작하는 AI 시스템의 사용자는, 적시에 명확하게 해당 콘텐츠가 인공적으로 생성 또는 조작되었다는 점을 공개하여야 하고, 가능한 경우 그것을 생성 또는 조작한 사람이나 법인의 성명을 ‘공개’해야 합니다. 

 

생성형 인공지능

의회 수정안에서는 ChatGPT와 같은 생성형 인공지능에 대한 규제사항을 명확히 하고 있습니다.

 

• 사람과 교감하는 인공지능 시스템(to interact with natural person)이라는 사실을 고지할 의무
• 기초 모델의 훈련 및 가능한 경우 그 설계 및 개발에 있어서도, 생성되는 콘텐츠가 유럽연합 법률에 위반되지 않고, 표현의 자유를 포함한 기본권을 침해하지 않을 것
• 유럽연합 또는 회원국의 저작권법을 위반하지 않고, 저작권법의 보호 대상인 훈련 데이터를 사용하는 경우 그 주요 내용을 충분하고 구체적으로 공개할 것 

 

위반시 제재

금지된 인공지능 서비스를 하거나 인공지능 데이터셋 관리 규정을 위반한 경우 최대 3천만 유로(약 400억 원) 또는 전 회계연도의 연간 총 매출액 6% 중 큰 액수의 벌금이 부과됩니다. 나머지 규정을 위반한 경우 최대 2천만 유로(약 270억 원) 또는 전 회계연도의 연간 총 매출액 4% 중 큰 액수의 벌금이 부과됩니다. 다만, 사업자가 인증기관 또는 유럽연합 회원국에 부정확·불완전한 정보를 제공하거나 오해의 소지가 있는 정보를 제공한 경우에는 최대 1천만 유로(약 135억 원) 또는 연간 총 매출액의 4% 중 큰 액수의 벌금이 부과됩니다.

 

현재상황

EU의 일반입법절차는 EU집행위원회의 의안 제출 → EU의회 위원회의 의견 표명 → EU의회 및EU이사회의 결정으로 이루어집니다.

 

2023년 6월 14일 유럽의회가 EU 인공지능 법안 수정안을 채택한 후, 현재 유럽의회, 유럽연합 집행위원회 및 유럽연합 이사회가 최종 법률안을 협의 중이며, 최종 법률안은 빠르면 2024년 초에 발효될 것으로 예상되고 있습니다.

 

발효일 이후 시행일까지는 통상 2년의 유예기간이 부과되므로 관련 업계에서는 2025년말 또는 2026년 초까지 EU 인공지능법 시행에 따른 준비 작업을 완료하여야 할 것입니다.

 

EU의 인공지능법이 통과될 경우, EU에 소재한 기업들 뿐 아니라 EU 시장에서 사업을 하는 모든 사업자들이 법을 준수해야 하기 때문에 파급력이 있을 것으로 예상되며, 무엇보다 GDPR이 그랬던 것처럼 다른 국가들로 입법이 확대될 가능성이 있습니다.

 

인공지능산업을 위축시키지 않으면서도 인간과 인공지능의 공존을 이룰 수 있어야 하기에, 우리나라도 구성원들의 많은 논의가 이루어져야 할 것입니다.

 

긴글 읽어주셔서 감사드립니다.

장건 변호사 올림
david@bnl.legal

관련글 https://kunchang.tistory.com/28
더 많은 글 https://kunchang.tistory.com/

장건 변호사의 The Road