쏟아지는 생성AI 범죄…"모르는 번호 통화도 위험"

최근 인공지능(AI) 기술이 급속도로 발전하면서 이를 악용한 범죄가 급증하고 있다.

AI로 불법 동영상을 제작하거나, 음성을 변조해 보이스피싱에 사용하는 등 범죄 유형이 점점 더 다양해지고 있어 사회적 불안을 증폭시키고 있다.

■ "어? 엄마 목소리인데"…교묘해진 AI 범죄

최근 주목받는 AI 범죄 유형 중 하나는 '딥보이스' 기술을 이용한 음성 조작이다.

딥보이스는 AI가 특정인의 목소리를 학습해 이를 모방하는 기술로, 최근에는 단 15초 정도의 짧은 통화만으로도 상대방의 목소리를 완벽하게 재현할 수 있을 정도로 기술이 발전했다.

당초 고인의 목소리를 복원하는 등 긍정적인 목적으로 개발된 기술이지만, 보이스피싱 범죄에 딥보이스 기술을 악용하는 사례가 늘어나면서 사회적 문제로 부각되고 있다.

실제로 특정인물로 가장해 지인에게 금전을 요구하거나 개인정보를 빼내려는 시도가 급증하고 있으며, 이에 따른 피해도 지속적으로 보고되고 있다.

특히 명절 연휴를 감안해 AI 딥보이스 기술을 이용한 범죄가 더욱 활발해질 것으로 우려된다. 가족 간의 전화나 지인과의 통화에서 생길 수 있는 신뢰를 악용해 금전적 이익을 취하려는 범죄자들이 늘고 있는 추세다.

더욱이 오픈소스로 제공되는 AI 모델 덕분에 AI 기술에 대한 기본적인 지식만 있어도 다양한 활용이 가능해졌다. 이로 인해 AI를 악의적으로 사용하는 경우도 증가한 상황이다.

■ "해외는 제작만으로도 처벌…국내는?"

업계 전문가들은 AI 기술 악용을 막는 것은 사실상 불가능하다고 입을 모은다.

해외의 경우 당사자 동의 없이 AI로 제작한 음란물이나 복제물을 가지고 있는 것만으로도 처벌 받을 수 있지만, 우리나라는 관련 법이 없어 제작은 물론 유통을 하더라도 처벌 받지 않는다.

따라서 현 시점에서는 AI 기술을 악용한 영상·복제물 유통을 차단하는 것이 최선의 방안이다. 콘텐츠를 올리는 SNS나 플랫폼 기업이 자체적으로 검열에 나서 사회적 책임을 다해야 한다는 주장도 나오고 있다.

일반 시민들 역시 AI 범죄에 대한 인식을 높이고 경각심을 가지는 것이 중요하다. AI로 만들어낸 콘텐츠가 얼마나 정교한지, 잠재적 위험이 무엇인지 이해하고 책임 있는 사용이 강조된다.

업계 관계자는 "AI 기술 발전에 따른 부작용을 최소화하기 위해서는 개인과 사회, 그리고 정부의 공동 노력이 필요하다"라며 "AI 기술은 우리 사회의 많은 부분을 혁신적으로 변화시키고 있지만, 그 이면에는 잠재적인 위험이 존재한다. 사회 전체의 경각심과 적절한 규제가 마련돼야 한다"고 말했다.