딥페이크 AI 음란물의 위법성

 

역사적으로 포르노그라피 산업은 인간의 욕망을 자극하기 위하여 새로운 기술을 도입하는데 적극적이었습니다.

 

4차 산업혁명 시대의 핵심기술인 딥러닝, VR/AR, 3D 프린트 기술, 아바타 등이 포르노그라피 산업에도 이용될 것은 어렵지 않게 예상할 수 있고 이는 지금도 현실이 되어 가고 있는 것 같습니다.

 

이른바 ‘딥페이크’ 기술을 이용하여 제작한 연예인들의 불법 동영상 등이 문제되자 우리나라에서는 최근 특정인을 대상으로 한 딥페이크 영상제작을 금지 및 처벌하는 조항이 성폭력범죄의처벌등에관한특례법에 신설 및 시행되었습니다.

 

딥페이크는 AI 딥러닝과 페이크를 합친 말로, AI가 기존의 이미지, 음성, 영상을 분석해 가상의 이미지와 음성, 영상을 만들어 내는 기술을 말합니다.

 

이에 이번 칼럼에서는 딥페이크 AI 기술로 제작한 음란물의 위법성에 대해 살펴보려 합니다.

장건 변호사(한국/미국)

BNL Law www.bnl.legal

BNL Law

연락처: david@bnl.legal , 010-6836-7578

 

딥페이크 AI 음란물과 성폭력범죄의처벌등에관한특례법

 

성폭력처벌법에 따르면 반포·판매 등을 목적으로 사람의 얼굴·신체 또는 음성을 대상으로 한 영상물·음성물 등(‘허위영상물등’)을 그 대상자의 의사에 반하여 성적 욕망 또는 수치심을 유발할 수 있는 형태로 제작하는 행위만으로도 5년 이하의 징역 또는 5천만 원 이하의 벌금에 처합니다.

 

그리고 위와 같이 만들어진 허위영상물 등을 대상자의 의사에 반하여 반포·판매 등을 경우 5년 이하의 징역 또는 5천 만원 이하의 벌금에 처하며, 동일한 행위를 영리를 목적으로 정보통신망을 이용하여 행한 자는 7년 이하의 징역에 처합니다.

 

즉, 실제 사람을 찍은 음란물이 아니라고 하더라도 특정인에 대한 사진 등 데이터를 가공하여 딥페이크 기술 등으로 그 특정인과 유사성이 명백한 음란물을 제작하는 경우, 이는 아무리 가상인물에 대한 음란물이라고 하더라도 처벌됩니다.

 

위와 같은 행위는 그 특정인의 성적 자기 결정권, 인격권 등의 권리를 침해하는 행위라고 보아야 한다는 점에서 기존에도 민사상으로 피해를 배상받을 수 있었지만, 그 손해액의 증명 등이 어려운 문제가 있었습니다.

 

특히 우리나라법은 초상권을 재산권으로서 확실하게 보호하는 ‘퍼블리시티권’을 법에 명시적으로 도입하지 않은 상황이기 때문에, 설령 민사상 손해배상이 인정된다고 하더라도 다액의 손해배상을 인정받는 것에는 한계가 있었습니다.

 

이러한 상황에서 위 성폭력처벌법 조항의 신설을 통해 딥페이크로 인한 행위를 형사처벌 대상으로 규정한 입법은 의미가 있다고 할 것입니다.

 

피해자로서는 가해자의 강력한 처벌을 요구할 수도 있고, 또는 합의과정을 통해 재산적으로 더 큰 손해배상을 받을 수도 있기 때문입니다.

 

가상인물과 딥페이크 AI 음란물

 

위 성폭력처벌법은 특정인으로 인식될 수 있게 만든 영상물등을 제작하는 행위를 처벌하고 있다는 것을 알 수 있습니다.

 

그럼 특정인을 대상으로 하지 않은, 이 세상에 실제로 존재하지 않는 제3의 가상인물을 이용하여 음란물을 만들면 괜찮을까요?

 

결론적으로 이는 ‘일반적인’ 음란물에 대한 제재와 동일한 제재가 적용됩니다.

 

형법에 따르면 음란물을 반포·판매 등을 하는 행위, 제조, 소지, 수입 또는 수출하는 행위는 1년 이하의 징역 또는 500만 원이하의 벌금에 처합니다.

 

그리고 성폭력처벌법에 따르면 인터넷이나 SNS에 성적 수치심이나 혐오감을 일으키는 그림이나 영상 등을 올려 상대방에게 도달한 자는 2년 이하의 징역 또는 2000만원 이하의 벌금에 처합니다.

 

또한 정보통신망법에 따르더라도 ‘음란한’ 부호ㆍ문언ㆍ음향ㆍ화상 또는 영상을 배포ㆍ판매ㆍ임대하거나 공공연하게 전시한 자는 1년 이하의 징역 또는 1천만원 이하의 벌금에 처합니다.

 

참고로 여기서 ‘음란’이나 ‘성적 수치심이나 혐오감’ 등의 용어가 모호하다는 점이 문제가 되는데요, 우리 대법원은 1969년 염재만의 소설 ‘반노’에 대한 판결로부터 시작하여 즐거운 사라 사건(1992), 내게 거짓말을 해봐 사건(2000), 중학교 미술교사 사건(2005), 서울우유 사건(2006), 영상물등급위원회 사건(2008), 법학교수 블로그 사건(2012) 등에서 ‘음란’의 개념에 대한 해석을 해왔습니다.

 

아동ㆍ청소년이용음란물의 경우

 

모든 음란물에 대한 문제와 동일하게, 딥페이크 음란물에 대한 문제 중 가장 문제가 심각한 지점은 아동ㆍ청소년이용음란물의 경우입니다.

 

아동ㆍ청소년의 성보호에 관한 법률(청소년성보호법)은 “‘아동ㆍ청소년성착취물’이란 아동ㆍ청소년 또는 아동ㆍ청소년으로 명백하게 인식될 수 있는 사람이나 표현물이 등장하여 제4호의 어느 하나에 해당하는 행위를 하거나 그 밖의 성적 행위를 하는 내용을 표현하는 것으로서 필름ㆍ비디오물ㆍ게임물 또는 컴퓨터나 그 밖의 통신매체를 통한 화상ㆍ영상 등의 형태로 된 것을 말한다.”고 규정하고 있습니다.

 

위 법은 아동ㆍ청소년성착취물과 관련된 범죄를 매우 강력하게 처벌하고 있습니다. 즉, 행위태양마다 무기징역~1년이상의 징역까지 가능하고, 일반적인 형사처벌에 비해 이례적으로 단순히 ‘소지ㆍ시청한 자’에 대해서도 강력하게 처벌하고 있습니다(1년 이상의 징역. 참고로 1년 ‘이상’의 징역은 최대 징역 30년까지 가능합니다).

 

위 법을 잘 보시면, ‘실제 아동ㆍ청소년’ 뿐 아니라 ‘아동ㆍ청소년으로 명백하게 인식될 수 있는 사람이나 표현물’에 대해서도 처벌하고 있는 것을 알 수 있습니다.

 

예를 들어, 실제 인물을 다루지 않았지만 아동으로 인식될 수 있는 대상물을 그린 만화 등도 처벌될 수 있다는 것이지요.

 

이에 대해 우리 대법원은 사회 평균인의 시각에서 객관적으로 관찰할 때 외관상 의심의 여지없이 명백하게 아동ㆍ청소년으로 인식되는 경우 아동ㆍ청소년이용음란물로 판단하므로 가상인물로 제작한 아동ㆍ청소년이용음란물도 일반적인 아동ㆍ청소년이용음란물과 동일하게 처벌하는 입장이며, 헌법재판소 다수의견도 가상의 아동ㆍ청소년 음란물이라고 하더라도 그 해악과 위험성을 고려하여 실제 인물인 아동ㆍ청소년을 이용하여 제작한 음란물과 동일한 수준의 제재의 대상이 될 수 있다고 판단한 바 있습니다.

 

l  참고로 미국의 경우 실제아동에 대한 음란물과 가상아동에 대한 음란물에 대해 다르게 규정하고 있고, 위 헌법재판소 소수 의견도 미국법과 동일한 의견이었습니다. 즉, 실제 아동이 아닌 아동ㆍ청소년이용음란물에 대해서는 더 경미하게 처벌해야 한다는 것입니다.

 

결론적으로 우리 법 및 법원의 태도에 따르면 아동ㆍ청소년이용음란물의 경우에는 ‘실제인물’을 대상으로 하지 않은 가상인물에 대한 음란물에 대해서도 실제인물 아동ㆍ청소년에 대한 음란물과 동일하게 매우 강력하게 처벌하고 있는 것을 알 수 있습니다.

 

결론

 

최근 가상인물제작, 가상인물을 이용한 마케팅 등이 각광받고 있는데요, 딥페이크 기술을 이용하여 만들어진 음란물의 경우 실제인물에 대상으로한 음란물은 물론, 가상의 인물을 이용하여 만든 음란물 또한 처벌될 수 있다는 점을 살펴보았습니다.

 

악용될 소지가 큰 기술인만큼, 가상인물을 이용한 사업을 직접 하시거나 이를 이용하여 마케팅 등에 이용하시려는 분들의 각별한 주의가 필요하다고 할 것입니다.

 

 

긴글 읽어주셔서 감사드립니다.

 

장건 변호사 올림

david@bnl.legal

 

관련글 https://kunchang.tistory.com/25

얼굴 교체 앱 사용시 주의점

 

더 많은 글 https://kunchang.tistory.com/

장건 변호사의 The Road