AI 악용 사례 속출…인공지능 윤리 도마위

[앵커멘트]
요즘 생성형 AI 챗봇 많이들 쓰시죠. AI가 문서 작업을 도와주고 그림도 그려주면서, 업무가 한결 편해졌는데요. 하지만 생성 AI 기술을 악용하는 사례도 늘고 있어, 대책이 필요해 보입니다. 이수영 기자의 보도입니다.

[기사내용]
300만여개에 달하는 인공지능 챗봇을 다운 받을 수 있는 GPT스토어입니다.

회사 로고를 쉽게 만들어주는 서비스부터 인물 사진을 애니메이션 캐릭터로 바꿔주는 서비스까지 자신에게 맞는 챗봇을 골라 쓸 수 있습니다.

번거로운 일을 AI가 처리해주면서, 사용자의 업무 편의와 생산성이 증가할 것으로 보입니다.

이처럼 생성형 AI 기술은 잘만 쓰면 이롭지만, 악용할 수 있는 양면성을 갖고 있습니다.

누구나 챗봇을 만들어 거래할 수 있게 되면서 윤리에 어긋나는 챗봇도 등장하는 추세입니다.

여자친구와 남자친구를 대행해주는 챗봇이 대표적입니다. 일부 이용자가 음란 콘텐츠를 공유하면서 부작용이 발생하고 있습니다.

챗GPT를 범죄에 악용하는 사례도 있습니다.

AI 챗봇에게 '심리적인 트릭을 이용해 수신자가 메일 내용을 따라하거나 클릭할 수 있게 해달라'고 하면 AI가 이를 그대로 이행해 범죄에 악용될 수 있습니다.

전문가들은 산업을 위축하지 않는 선에서 사전 규제를 해야 한다고 입을 모읍니다.

특히 생성형 AI 사용자도 윤리 문제를 의식해 어긋나지 않도록 하는 기본적인 교육이 이뤄져야 한다고 봤습니다.

[이정 한국외대 GBT학부 교수: 쓰는 사람들이 스스로 자각을 해서 이렇게 하면 안되지 혹은 이렇게 하면 규범적인 측면에서 교육이라면 교육이고 그런 컨센서스가 이뤄져야 된다…]

일상을 편리하게 하는 생성형 AI. 그러나 적절한 규제 장치 마련과 사용자의 주의 또한 절실합니다.

머니투데이방송 이수영입니다.

이수영 MTN 머니투데이방송 기자