[교실 밖에서] 딥페이크 범죄에 '제한없는 벌금' 부과하자는 영국

대구의 한 고등학교 앞에서 등굣길 학생들이 프로필 사진(프사)이 대부분 삭제된 카카오톡 친구목록을 보여주고 있다. 최근 청소년들의 딥페이크 피해가 늘고 있는 가운데 학생들은 "피해를 예방하기 위해 자발적으로 얼굴이 나온 모바일 메신저 프로필 사진을 삭제하고, SNS 비공개 또는 지인들과 함께 찍은 게시물을 삭제하는 친구들이 늘고 있다"고 말했다. (사진제공=뉴스1)

딥페이크 음란물은 한국뿐 아니라 세계적인 골칫거리다. 보안서비스업체 시큐리티히어로에 따르면, 딥페이크 영상은 지난해 9만5820건으로 2019년 이후 550% 증가했다. 이중 98%가 음란물이었으며, 99%가 여성을 대상으로 한 영상이었다.

딥페이크(Deepfake)는 인공지능 기술인 딥러닝(deep learning)과 ‘가짜’를 의미하는 단어인 페이크(fake)의 합성어로, 인공지능 기술을 이용하여 진위 여부를 구별하기 어려운 가짜 이미지나 영상물을 뜻한다.

딥페이크 성착취물의 94%는 연예인을 표적으로 했는데, 이 대목에서 한국이 처음으로 언급된다. 음란물 피해자 국적 중 한국이 53%로 압도적이었던 것이다. 미국과 일본은 각각 20%, 10%였다. 영국(6%)과 중국(3%), 인도(2%), 태국(2%), 이스라엘(1%)이 그 뒤를 이었다.

지난 2019년 딥페이크 탐지 전문회사 딥트레이스가 성인 콘텐츠 사이트를 분석했을 때만 해도, 피해 여성의 대다수는 미국인이었다. 미국이 41%로 가장 많았고, 한국은 25%로 2등이었다. 영국은 12%였고 캐나다는 6%, 인도는 3%였다.

K팝을 비롯한 한류의 영향력이 전 세계로 확대되면서, 한국 가수나 여배우의 음란물이 증가한 것으로 보인다. 조사 결과만 놓고 보면, 한국은 글로벌 딥페이크 범죄의 가해자라기 보다 피해자 쪽에 가까운 것 같다.

문제는 국내에서 발생하는 딥페이크 음란물의 가해자와 피해자의 대다수가 10대 미성년자라는 사실이다. 경찰청 통계에 따르면 지난 3년 동안 딥페이크 범죄 가해자 중 70% 정도가 미성년자였다. 피해자 역시 60% 이상이 미성년자였다. 딥페이크 가해자들은 누군가에게 보복하거나 단순히 재미를 느끼기 위해, 그냥 호기심에 영상을 만들고 양심의 가책을 느끼지 않는다.

세계적으로 봐도 그렇다. 딥페이크 범죄가 기승을 부리는 건, 이것이 범죄라는 인식이 자리 잡지 못했기 때문이다. 시큐리티히어로의 여론조사 결과, 딥페이크 음란물 이용자의 74%는 죄책감을 느끼지 않는다고 답했다. 이들 중 다수는 딥페이크 음란물이 실제 사람이 아닌 데다, 누군가에게 해를 입히지도 않는다고 생각했다.

그 누군가가 나거나 나와 가까운 사람이라면 어떨까. 이 질문에 대해 응답자의 68%는 충격과 분노를 느낄 것이라고 답했다. 73%는 규제 당국에 바로 신고하겠다고 했다. 남이 당하는 건 상관없지만, 나나 나와 관련된 사람은 안된다는 전형적인 '내로남불'이다.

딥페이크 음란물 제작은 명백한 범죄다. 텔레그램 등 SNS에서 딥페이크 콘텐츠를 소비하고 공유하며 이에 동조한 자들 또한 공범임을 부인하기 어렵다.

이것이 범죄임을 각인시키는 최고의 방식은 형량과 처벌을 강화하는 것이다. 최근 미국 의회 상원은 피해자가 딥페이크 음란물의 제작·유포·소지자에게 15만 달러의 민사상 손해배상을 청구할 수 있는 법안을 발의했다. 유럽연합(EU)은 세계 최초로 포괄적 성격의 AI 규제법을 최종 승인했다.

영국에선 딥페이크 음란물 제작자는 해당 이미지가 유포될 경우 '제한 없는 벌금'과 징역형을 부과하는 법안이 발의됐다. 영국 정부는 여기서 한 걸음 더 나아가 온라인을 포함해 여성과 소녀에 대한 폭력을 '국가적 위협'으로 재분류했다. 이는 관련 범죄를 테러와 동일한 수준으로 보고, 우선적으로 대응하겠다는 의미다.

우리 정부는 딥페이크 관련 최대 형량을 최대 5년에서 7년으로 높이는 법 개정을 추진하고 있다. 교육부는 딥페이크 범죄도 학교 폭력 범주에 넣어 퇴학 등의 고강도 징계를 하겠다고 밝힌 상태다.

규제와 더불어 딥페이크를 비롯한 AI 윤리 교육도 필요하다. 현재 학교는 학생의 맞춤형 학습을 지원하거나 교사의 지도 업무를 줄여주는 기능적인 측면에만 집중하고 있다. AI로 공부하는 수업은 있지만, AI를 공부하는 수업은 없는 셈이다.

정부는 지난달 업계와 함께 '디지털교육 규범'을 확정했다. 여기에는 디지털 교육의 기본 원칙 등이 담겼다. 하지만 이는 공허한 선언 내지는 혼잣말에 불과하다. 법적 구속력이 없는 데다 내용이 구체적이지도 않기 때문이다.

딥페이크 음란물 제작은 개인의 사생활을 침해하고 심각한 정신적 고통을 초래하는 중대 범죄다. 이런 인식이 자리 잡으려면 규제와 교육이 동시에 가야 한다. 딥페이크 관련 규제를 강화하는 세계적인 흐름 속에서 우리 만의 문제를 해결해 나가는 지혜와 끈기가 필요하다.