"AI 기업 책임 어디까지"…AI 윤리 해법은?

사진=LGCNS

산업 전반에 인공지능(AI) 활용이 늘어나면서 기업의 AI 활용 및 규제에도 관심이 높아지고 있다.

국내외 주요 AI 기업들은 'AI 윤리' 경영을 피할 수 없는 흐름으로 인식하고, 인간의 존엄성과 사회적 공정성을 존중하는 방식으로 AI 사업을 펼치고 있다.

◇AI '자율규제' 시대…韓은 규제혁신

"AI를 개발하고 사용하는 과정에서 윤리적인 문제들을 고려해야 합니다. AI의 사용은 사회적인 영향을 미치기 때문에 이에 대한 책임과 투명성이 필요합니다."

국내 인공지능(AI) 기업 업스테이지가 개발한 AI 챗봇 아숙업(AskUp)은 AI 윤리를 이렇게 정의했다.

AI는 의료, 교육, 법률, 보안, 교통 등 다양한 분야에서 혜택을 가져다주고 있지만 인간의 권리와 자유를 침해하거나, 사회적 불평등과 차별을 악화시키거나 인간의 책임감과 창의성을 약화시킬 수 있는 기술이다.

정부와 기업들은 AI 기술 활용과 관련해 '윤리 의식'을 강조한다. AI 산업이 초기 단계인 만큼 성장 가능성을 염두에 두고 법적 규제보다 윤리 의식을 강조하는 게 더 효율적이라는 주장이다.

이와 관련해 AI 윤리에 대한 전 세계적인 추세는 '자율 규제'지만, 각 국의 속사정은 천차만별이다. 유럽의 경우 규제를 강제하는 방향인 반면 우리나라와 미국은 규제 혁신 쪽으로 가닥을 잡고 있다.

유엔교육과학문화기구(UNESCO)는 2021년 11월 25일 제41차 총회에서 193개 회원국의 만장일치로 '인공지능 윤리 권고'를 채택했다. 이 권고는 AI의 건전한 발전을 보장하는 법적 인프라 구축을 안내할 공통 가치와 원칙을 정의한다.

유럽연합(EU)은 2021년 4월 '인공지능에 관한 규제 제안'을 발표했다. 이 제안은 AI 시스템의 위험 수준에 따라 '금지·고위험·제한된 위험·최소 위험' 등 4단계의 규제를 적용할 계획이다.

미국은 2021년 5월 '인공지능 기술의 책임 있는 사용을 위한 국가 전략'을 발표했다. 이 전략은 AI 기술의 혁신과 경쟁력을 강화하면서도 인권, 민주주의, 공정성 등의 가치를 존중하고 보호하기 위한 방안을 제시한다.

과학기술정보통신부는 지난달 25일 정부서울청사에서 디지털시대 지켜야 할 규범인 '디지털 권리장전'을 발표했다. /자료=과학기술정보통신부

우리나라는 지난달 25일 디지털 공동번영사회의 가치와 원칙을 담은 총 6장, 28개조의 '디지털 권리장전'을 발표했다.

1장에서는 '디지털 공동번영사회' 구현을 위한 5대 기본원칙으로 △디지털 환경에서의 자유와 권리 보장 △디지털에 대한 공정한 접근과 기회의 균등 △안전하고 신뢰할 수 있는 디지털 사회 △자율과 창의 기반의 디지털 혁신의 촉진 △인류 후생의 증진을 제시했다.

2장부터 6장까지는 5가지 기본원칙을 구현하기 위한 시민의 보편적 권리와 주체별 책무(국가·기업·시민)를 세부 원칙 형태로 규정했다.

◇경영 필수가 된 'AI 윤리'

AI 기업들은 데이터를 수집하고 활용하는 과정에서 윤리적인 문제에 직면할 수 있다.

예를 들어 데이터의 품질과 신뢰성, 데이터의 편향성과 차별성, 데이터의 개인 정보 보호와 보안성, 데이터의 투명성과 설명 가능성 등이 그것이다.

이러한 문제들을 해결하기 위해 국내외 AI 기업들은 다양한 노력을 하고 있다.

해외 주요 기업을 살펴보면, 구글은 2018년 'AI 원칙'을 발표했다. 이 원칙은 'AI는 사회적 이익을 증진시켜야 한다', 'AI는 안전하고 신뢰할 수 있어야 한다', 'AI는 사람과 협력하고 존중해야 한다', 'AI는 과학적인 엄격성과 기술적 우수성을 추구해야 한다' 등으로 구성돼 있다.

구글은 이 원칙을 실천하기 위해 AI 시스템의 편향성, 설명 가능성, 안전성 등을 평가하고 개선할 수 있도록 오픈소스 도구(TensorFlow Model Analysis4)를 개발했다. 구글은 또한 AI 시스템의 윤리적 문제에 대한 연구와 교육을 지원하고 있다.

IBM도 2018년 'AI 윤리 원칙'을 발표했다. 이 원칙은 'AI는 인간의 가치와 권리를 존중하고 보호해야 한다', 'AI는 투명하고 설명 가능해야 한다', 'AI는 신뢰할 수 있고 안전하며 책임감 있게 개발되고 운영돼야 한다' 등으로 구성된다.

IBM은 이 원칙을 실천하기 위해 AI 시스템의 편향성, 설명 가능성, 안전성 등을 평가하고 개선할 수 있는 도구와 프레임워크를 개발, AI 시스템의 편향성을 감지하고 완화하는 오픈소스 툴킷(IBM AI Fairness 360)과 AI 시스템의 결정 과정과 결과를 이해하기 쉽게 설명하는 오픈소스 툴킷(IBM AI Explainability 360)을 공유했다.

마이크로소프트(MS) 역시 2019년 'AI 윤리 가이드라인'을 발표했다. 이 가이드라인은 'AI는 인간 중심이어야 한다', 'AI는 공정하고 비차별적이어야 한다', 'AI는 개인 정보와 보안을 보호해야 한다', 'AI는 투명하고 설명 가능해야 한다' 등으로 구성돼 있다.

MS는 이 가이드라인을 실천하기 위해 AI 시스템의 윤리, 안전성 등을 평가하고 개선할 수 있도록 AI 공정성 진단 시스템(Fairlearn)을 공개한 바 있다.

국내에서도 네이버, 카카오, LG 등 대기업은 물론 업스테이지, 솔트룩스, 스캐터랩, 뤼튼테크놀로지스 등 중견·중소기업들의 활약도 돋보인다. 업스테이지의 경우 데이터 수집 및 공유 플랫폼 '1T 클럽'을 통해 AI 윤리와 신뢰성을 구현하고 있다.

AI가 여러 산업에 뿌리내리며 영역을 확장하는 가운데, AI 산업 성장을 이끌어 갈 기업들의 행보에도 관심이 쏠린다.

업스테이지 관계자는 "AI 윤리와 신뢰성은 우리의 미래를 결정하는 중요한 요소"라며 "AI 윤리와 신뢰성을 실현하기 위해서는 첨단 기술을 활용하는 기업들이 앞장서 윤리 준수를 위해 협력하고 소통해야 한다"고 강조했다.

이어 "기술 개발과 함께 AI가 인류와 공존하기 위해서 AI 윤리를 실천하는 방법과 모범을 기업들이 제시함으로써 미래를 더 활짝 열 수 있길 기대한다"라고 말했다.