음란·스팸 동영상 잡아내는 인공지능 기술
조은아 기자
[머니투데이방송 MTN 조은아 기자] 최근 방송통신위원회가 방송통신 융합환경에 맞춘 규제 개편 등 제도 개선 의지를 내보였다.
방통위는 인터넷 기업에 대한 사회적 책임 강화와 역차별 해소 등을 논의할 '인터넷 분야 상생 협의체'를 구성해 운영한다. 방통위는 국민이 중심되는 방송통신을 위해 다양한 정책 과제를 내세운 가운데, '인터넷 상 표현의 자유 신장과 역기능 대응을 강화'하기 위해 발벗고 나설 방침이다.
특히 최근 사회적으로 문제되고 있는 음란물 유통도 적극 제재한다. 불법 촬영물이나 음란물 등 불법 유해정보에 대해 인터넷방송 사업자가 음란물 유통을 인지한 경우 삭제 및 접속차단을 의무화할 예정이다. 이에 따라 음란물 차단은 업계의 당면 과제로 떠올랐다.
업계에서는 인공지능 기술을 접목한 시도가 활발히 이뤄지고 있다. 그동안 검수자가 일일이 모니터링 하던 과거 방식보다 효율이 높다.
네이버는 자체 개발한 음란물 필터링 인공지능 기술인 '네이버 엑스아이(X-eye)를 동영상 부분으로 확대 적용한다. 네이버는 올해 7월부터 이 기술을 이미지 부분에 적용해 실시간 필터링을 해왔다. 이번에 동영상 부분으로 확대 적용된 네이버 엑스아이에는 기존 이미지 필터링 방식에 영상의 일정 구간마다 프레임을 추출하는 과정이 추가됐다.
네이버 엑스아이의 음란 동영상 필터링 적중률은 약 98% 정도다. 음란물지수가 특정 수준 이상으로 높은 프레임이 포함된 영상은 '임시 재생 중지' 상태가 되며, 이후 10분 이내 검수자의 검토를 거쳐 정상 영상은 복구되고 음란 동영상은 삭제 및 이용제한 조치된다.
카카오도 2014년부터 음란물 검수 시스템에 딥러닝 기술을 적용했다. 일반 이미지와 스팸이나 성인 이미지를 빠르게 분류해 문제성있는 이미지이니 걸러낸다. 카카오는 카카오TV 동영상도 데이터 검수 작업을 거치고 있다. 사용자가 음란 영상이나 저작권 침해 소지가 있는 영상을 올리지 않도록 걸러낸다. 카카오는 딥러닝 기술을 바탕으로 이미지 검색 기술을 정교화해나간다는 계획이다.
페이스북도 인공지능 기술을 콘텐츠 걸러내기에 활용하고 있다. 관리자가 보기에는 아무런 문제 없는 게시물처럼 보이지만 일반 이용자가 누르게 되면 스팸 사이트로 연결되는 '클로킹' 게시물을 차단하는데 활용하고 있다. 문제 콘텐츠를 실시간 적발해 계정을 삭제하는 식으로 운영하고 있다.
