[ALL in AI] 진화하는 AI에 딥페이크 '비상'

[앵커멘트]
인공지능 기술 발전으로,

이제 텍스트만으로 영상 콘텐츠를 쉽게 만들 수 있게 됐습니다.

동시에 AI를 악용한 딥페이크 콘텐츠 우려도 커졌는데요.

관련해 이수영 기자가 보도합니다.

[기사내용]

텍스트 몇 줄을 입력하자 영화 속 장면 같은 영상이 뚝딱 만들어집니다.

챗GPT 개발사 오픈AI가 최근 공개한 인공지능 '소라'의 등장으로, 앞으로 AI 영상 제작이 한결 쉬워질 전망입니다.

하지만 동시에 AI를 악용한 딥페이크 콘텐츠에 대한 우려도 나옵니다.

딥페이크는 인공지능 기술인 '딥러닝'과 가짜를 의미하는 '페이크'의 합성어.

최근 윤석열 대통령 모습이 등장하는 딥페이크 허위 조작 영상이 대표적입니다.

교묘하게 조작된 윤 대통령 영상이 SNS를 중심으로 퍼지면서 AI가 만든 가짜뉴스, 즉 시각적 조작에 대한 우려가 커졌습니다.

상황이 이렇자, AI가 만든 딥페이크 영상을 판별하는 기술도 주목받는 상황.

딥페이크로 의심되는 영상을 올리면 AI가 이를 분석해 딥페이크 여부를 판단해줍니다.

딥페이크 영상은 보통 진짜 영상 일부분과 가짜 영상을 이어붙여 진짜처럼 보이게 하기 때문에, 프레임 단위로 분석이 들어갑니다.

변조율이 50%를 넘으면 가짜 영상으로 판정됩니다.

AI로 만든 목소리도 판별할 수 있어 보이스피싱 등 범죄 예방에도 쓰일 수 있습니다.

딥페이크 문제를 해결하기 위해선 정부 차원의 개입에 더해 사용자 윤리 인식도 동반돼야 한다고 전문가들은 입을 모읍니다.

[이정수 딥브레인AI 사업개발그룹 이사: 일반인들의 윤리적인 의식을 교육을 통해 하는 부분들이 있고요. 딥페이크 탐색 솔루션을 통해 의심이 되는 부분들은 의뢰를 하고, 아니면 정부기관에서 할 수 있는 사이트들을 운영해서 누구나 쉽게 탐지를 해 페이크물인지 구분할 수 있는…]

발전하는 AI 기술로 일상이 편리해지고 있지만, 딥페이크처럼 AI를 악용하는 사례가 나오지 않도록 제도적 장치도 필요해 보입니다.

이수영 MTN 머니투데이방송 기자