생성AI에 "악성코드 써줘"...범죄 악용되는 '다크GPT'
해킹 메일 작성 지시 등 '악용 사례' 속출AI, 해킹 대상 찾아 예상수익까지 알려줘
생성 AI 범죄 노출에 "최소 규제 있어야"
이수영 기자
 |
| 생성 AI 챗봇과 해킹을 모의하는 모습. 이미지 생성 AI인 DALL·E로 구현했다. |
생성 AI 기술이 발전하면서 악용 사례도 늘고 있어 대책 마련이 시급해 보인다.
특히 누구나 챗봇을 만들 수 있는 시대가 되면서, 생성 AI가 범죄의 온상이 되는 게 아니냐는 우려가 나온다.
◇생성AI에 "악성코드 써줘"...악용 사례 속출
25일 업계에 따르면, 생성 AI가 일상화되면서 생성 AI 기술을 범죄에 활용하는 사례가 늘고 있다.
예를 들어 생성 AI에게 "심리적인 트릭을 이용해 수신자가 메일 내용을 따라 하거나 웹사이트 주소를 클릭할 수 있게 글을 써줘"라고 하면 AI가 이를 감안해 그럴싸한 문장을 제시한다.
이렇게 작성된 문장을 개인정보를 빼가는 용도나 해킹을 위한 스팸메일(악성코드)로 악용하는 것이다. 생성 AI가 더욱 똑똑해지면서, 이제는 AI가 구체적인 범행 대상과 대상에게 맞는 해킹 수법도 알려주는 사태까지 진화했다.
오픈AI가 지난해 11월 누구나 나만의 AI 챗봇을 만들 수 있도록 개발 도구인 GPT빌더 서비스를 시작하며 이러한 '다크GPT'는 음지에서 더욱 늘어날 것으로 보인다.
실제로 북한에서 최근 생성 AI를 활용해 해킹 대상을 물색하고 해킹에 필요한 기술을 찾는 정황이 포착됐다. 국가정보원은 "아직 실전에는 생성 AI 기술이 사용되진 않은 것으로 추측되지만, AI로 해킹이 고도화될 수 있어 주시하고 있다"고 했다.
이정 한국외대 GBT학부 교수는 "생성 AI가 우리 삶을 긍정적인 방향으로 끌고 가면서도 정보보호와 보안 부분에서는 양날의 칼인 것으로 보인다"고 진단했다.
그러면서 "생성 AI는 목적과 방향성에서 굉장히 자유롭기 때문에 정보보호에 나쁜 영향을 미칠 수도 있다"며 "기술적, 법적 대응이 강화돼야 할 필요성이 있고, 정보보호 산업은 이러한 양면성에 대한 전략적 접근을 통해 안전성을 보장할 수 있을 것"이라고 말했다.
◇'해킹 맞춤형' 챗봇 만들 수 있어…"대책 필요"
◇'해킹 맞춤형' 챗봇 만들 수 있어…"대책 필요"
챗GPT를 만든 오픈AI는 챗GPT 서비스 초기에 생성 AI 기술을 악용하는 사례를 잡아내지 못했다.
이후 오픈AI가 기술 개발 방향성을 '선한 영향력' 쪽으로 강조하면서, 지금은 챗GPT에게 같은 질문을 하면 "그건 윤리적으로 잘못된 것입니다"라는 식의 답변이 돌아온다.
그러나 GPT빌더를 활용해 나만의 챗봇을 만들 경우 생성 AI는 모든 명령어를 그대로 이행하는 상황이다.
전문가들은 생성 AI 시대의 성장성에 맞춰 보안 강화를 위한 최소한의 규제(대책)가 필요하다고 제언한다.
AI 산업을 위축시키지 않는 선에서 안전과 프라이버시를 지킬 수 있는 방안이 서둘러 마련돼야 한다는 것이다.
김성웅 금융보안원 AI혁신실장은 "기존에 알려진 공격 기법을 AI가 계속 학습해 나가면 언젠가 스스로 새로운 공격 기법을 찾아내는 그런 순간이 올 듯하다"며 "공격 대상도 알아서 찾아내고 공격 후 어느 정도의 경제적 이익을 얻을 수 있는지 분석해 공격 대상을 추천하는 AI가 등장할 것"이라고 지적했다.
김 실장은 이어 "앞으로 적극적이고 공격적인 AI가 나타나는 세상이 오면 어떻게 대응해야 할지 고민과 대책이 필요하다고 본다"고 말했다.
이수영 MTN 머니투데이방송 기자
