22대 국회도 'AI기본법' 진통…"AI 정의부터 다시 해야"

11일 국회의원회관에서 'AI의 공존을 위한 입법 방향' 주제로 열린 토론회 모습 /사진=이수영 기자

지난 21대 국회 문턱을 넘지 못한 인공지능(AI) 기본법 논의가 22대 국회에서도 진통을 겪고 있다.

새 국회 개원과 함께 그동안 논의한 AI기본법이 폐기된 데다, 제정을 하더라도 빠르게 진화하는 AI 기술 속도가 법을 따라갈 수 없다는 회의론도 존재한다.

이에 더해 AI 산업 육성을 위해 규제를 완화해야 한다는 쪽과, 윤리와 안전을 우선해야 한다는 입장이 팽팽하게 맞서며 진도를 나가지 못하고 있다.

11일 업계와 국회에 따르면, 이날 국회의원회관에서 열린 '국민의 안전, 인권 및 민주주의와 AI의 공존을 위한 입법 방향' 토론회에는 정부와 AI 업계를 비롯한 학계, 시민단체 등이 참석해 AI기본법 방향성에 대해 머리를 맞댔다.

AI기본법은 지난 21대 국회에서 법안이 발의됐으나 결국 통과하지 못한 법이다. 22대 국회 출범일부터 지금까지 6건의 안건이 새롭게 발의됐지만, 법안 심사 일정조차 정해지지 않은 상태다.

이날 토론회에는 AI기본법 정의부터 다시 해야 한다는 주장이 나왔다. 현재 발의된 AI기본법은 AI를 추상적으로 정의하고 있어 좀 더 명확히 해야 한다는 지적이다. 발의된 AI 기본법에는 인간에 해를 끼칠 수 있어 금지된 AI나 고위험AI 등 최소한 정의를 명시하지 않았다.

우승익 한동대 교수는 "유럽연합(EU) AI 규제법을 반영한 안철수 의원의 법안을 제외하고 나머지 법안은 '학습, 추론, 지각, 판단, 언어이해 등 인간이 가진 지적 능력을 전자적 방법으로 구현한 것'이라고 정의한다"며 "반면 EU는 AI를 정의하는게 아닌 시스템을 정의한다. AI 발전을 정의 자체에서 내포하고 있는 게 특징"이라고 설명했다.

우 교수는 "EU는 AI가 다양한 자율성을 가지고 변화할 수 있다는 걸 정의 자체에서 역동성을 포함하고 있는데, 우리나라 AI기본법에서의 정의는 지능 정보와 기능법에 규정돼 있는 것에 몇가지 요소를 덧대는 방식을 취하고 있다"면서 "AI 정의부터 더 치열하게 살펴보려고 하거나 역동성이나 변화 가능성을 포함하려는 노력이 보이지 않는다"고 꼬집었다.

그는 AI기본법상 제재 규정이 미비한 점도 개선해야 한다고 봤다. 정의 규정 자체가 없어 그에 대한 제재 규정도 없는 상황이다.

우 교수는 "고위험 영역 AI의 경우 해당 AI 제공자의 사전 고지 의무만 부과돼 있을 뿐 위험관리방안이나 기술문서 작성 보관, 이용자 보호 등 조치는 자율방안을 마련하는 책무를 부담하는데 그치고 있다"며 "활용자에 대해선 어떠한 의무도 부과하고 있지 않다. 실효적 제재를 할 수 있는 조항을 마련해야 한다"고 언급했다.

AI기본법을 제정하기에 앞서 AI 기술이 앞으로 한국 사회에 어떤 영향과 파급력을 가질지부터 파악해야 한다는 목소리도 쏟아졌다. 기술 개발 속도가 법을 따라가지 못하고 있다는 점도 감안해야 한다는 주장이다.

오병일 진보네트워크센터 대표는 "국내 인공지능 법안은 환자와 같이 '인공지능의 영향을 받는 사람'이라는 개념이 포함돼 있지 않다. AI 위험성이 어느 정도인지 파악하고 이걸 규제하기 위해 어떤 논의를 해야 하는 시점"이라고 말했다.

AI 모든 산업 영역에 걸쳐있는 만큼, 기본법은 여러 방향에서 포괄적으로 접근해야 한다는 의견도 제시됐다.

김병욱 법무법인 두율 변호사는 "AI의 영향력이 사회 전반에 걸쳐 있는 만큼 개인정보보호, 독점규제 및 시장기능 보호, 인권보장과 차별구제를 포함해 산업 안전·금융소비자 보호 등 다양한 관점과 전문성을 포괄하는 통합적인 규제 거버넌스가 마련될 필요가 있다"고 진단했다.

한국은 이미 규제 체계가 완성 단계인 미국과 유럽 등에 비해 AI 제도화 속도가 더딘 편이다. AI 기본법 제정이 지연되면서 글로벌 경쟁에서 밀려날 수 있다는 우려의 목소리가 크다. 업계는 AI기본법 제정 촉구와 함께 우선허용, 사후규제 방식을 다시 한 번 제안했다.

김영규 한국인터넷기업협회 정책1실장은 "사전에 모든 걸 규제하기 보단 다양한 시도를 통해 기술을 발전시키면서 적절한 사후조치를 하는 게 옳은 방향이라고 본다"며 "EU나 영국, 일본은 규제샌드박스 제도를 운영 중인데, 우리나라도 규제 샌드박스를 운영하는 게 어떨지 고려했으면 한다"고 말했다.

김 실장은 이어 "AI기본법은 규제와 적용 범위를 명확히 하고 예외 규정을 통해 실효성을 갖추는 방식으로 나아가야 한다"며 "생성형 AI를 포함한 범용 AI 제공자에 대한 의무를 명확히 하고, 이용자에 피해가 우려되는 걸 적용 범위로 한정하는 방안을 검토으면 한다"고 밝혔다.