"인공지능(이하 AI)기술에 대한 규제가 필요하다고 생각해. 적절한 규제가 있으면 기술 발전을 안전하게 이끌고 사회적 신뢰를 구축하는 데 도움이 될 거야."

생성형 AI의 대표적 사례인 챗GPT에게 'AI의 입장에서 AI에 대한 규제가 필요하다고 생각하냐'고 물었다. 이에 챗GPT는 몇 초의 고민도 없이 위와 같은 답을 내놓았다.

이어 챗GPT에게 "AI기업에서는 AI기술에 대한 규제는 산업 발전에 악영향을 끼친다고 말한다"고 반문하자 다시금 몇 초만에 "균형이 중요해. 규제가 적절하게 이뤄진다면 안전성과 윤리를 보장하면서도 혁신을 촉진할 수 있을 거라고 생각해"라고 답하며 산업 발전과 규제는 공존해야 한다는 기조로 대화를 이어갔다.

챗GPT조차도 AI의 윤리적 측면에 대해 우려를 표하고 있는 상황 속 최근 생성형AI 기술을 사용한 허위 합성물 '딥페이크' 성범죄가 사회적 문제로 대두되면서 AI의 규제에 대한 목소리가 높아지고 있다. 더욱이 향후 2년이 대한민국이 AI 3대 강국(G3) 도약을 위한 골든타임인 만큼 AI산업 육성과 규제를 위한 뼈대 법안인 AI기본법(이하 AI법) 제정 논의에 속도가 붙고 있다. 국회도 22대 개원 이후 AI기본법 제정을 위해 재논의를 본격화했고, 정부도 연내 AI기본법 제정을 목표로 대통령 직속 국가AI위원회를 출범시킨만큼 귀추가 주목된다.

◆'명과 암' AI의 윤리적 공백

빠른 속도로 진화하는 과학 기술은 여러 분야에서 혁신과 발전을 이끈다. 또한 삶에 많은 편의를 가져다준다. AI도 마찬가지다. 하지만 모든 것에 명과 암이 있듯이 기술의 비약적인 발전에 윤리적 논의가 따라가지 못하면서 '윤리적 공백'이 생기고 있다.

편향된 데이터 학습으로 인한 인종·성별·사회적 집단에 대한 차별, 데이터 수집 과정에서 나타나는 개인정보침해, AI의 잘못된 결정에 대한 불분명한 책임 여부, 기술의 악용으로 인한 범죄나 테러 등의 부작용이 발생하고 있다.

실제로 미국에서 양형 보조 기구로 활용되고 있는 '콤파스 COMPAS(범죄자 재범 가능성 예측 알고리즘)'는 흑인 범죄자의 재범 가능성이 백인 범죄자보다 높을 것으로 예측하면서 편향성 논란에 휩싸였다.

중국의 경우 AI 얼굴 인식 기술을 접목한 폐쇄회로(CC)-TV 수억대를 전국에 설치한 '천망 프로젝트'가 사생활 침해 등 사회통제 수단으로 악용되고 있다는 우려가 일었다. 범죄자를 찾는 데 활용되지만 이와 함께 일반 시민들도 감시되면서 다른 용도로 악용될 수 있다는 지적이 제기됐다.

우리나라의 경우 최근 AI를 활용해 특정 인물을 정교하게 합성하는 기술인 '딥페이크'로 인한 가짜뉴스, 성범죄 등의 악용 사례가 급증하고 있다. 유명인 뿐만 아니라 나 자신부터 가족과 친구, 직장 동료도 피해자가 되면서 사회적 문제로 대두됐다.

◆미국·EU, AI 규범 정립 '경쟁'

세계 각국의 AI 패권경쟁은 격화되고 있다. 미국과 유럽연합(EU) 등은 규제 주도권 선점을 통해 자국 기업에 유리한 환경을 만들기 위해 AI규범 정립에 경쟁적으로 나서고 있다.

현재까지 전세계적으로 AI 관련 법 체계를 구축한 곳은 EU가 유일하다. EU는 지난 5월 세계 최초로 AI를 포괄적으로 규제하는 법률을 최종 승인했다. EU의 AI법은 지난 8월 발효됐고, 오는 2026년 전면 시행된다. 해당 법은 특정 제품이나 분야에서 AI기술을 활용할 때 발생할 수 있는 위험의 정도를 네 단계(허용불가한 위험·고위험·제한된 위험·최소위험)로 나눠 차등 규제하는 게 특징이다. AI로 인해 나타나는 여러 문제들로부터 시민을 보호하기 위한 법인 셈이다.

인간의 기본적 권리를 침해할 가능성이 있는 AI기술 활용은 전면 금지되고, 의료·교육 등 공공 서비스, 선거, 핵심 인프라, 자율주행 등에 사용되는 AI기술은 반드시 사람이 감독하고 위험 관리 시스템도 구축하도록 했다. 챗GPT를 비롯한 범용 AI(사람과 유사한 수준 또는 그 이상의 지능을 갖춘 AI)에 대해서는 AI 학습 과정에서 사용된 콘텐츠를 명시해야 하는 등 투명성 의무를 부여했다.

미국은 앞서 연방 차원의 '국가 2021년 AI 이니셔티브법'을 제정해 AI산업 지원의 법적 근거를 마련했다. 규제 보다는 기술 발전 지원에 방점이 찍혀 있다.

이후 미국 정부는 지난해 말 안전하고 신뢰할 수 있는 AI개발·사용에 관한 행정명령을 발표했다. 인공지능 개발·사용 시 지켜야 할 행정부의 8가지 원칙과 우선순위를 규정하는 등의 규제를 가했지만, 금지해야 할 AI에 대한 구체적인 규정이 없고 EU처럼 과징금을 부과하는 등의 강도 높은 제재는 하지 않았다.

◆"지금이 골든타임" AI법 제정 '속도전'

이처럼 세계 각국에서 AI산업 육성과 가이드라인 마련에 총력을 기울이면서 한국도 발등에 불이 떨어졌다.

우리나라의 경우 22대 국회가 문을 열면서 AI법 재논의가 본격화 되고 있다. 9일 기준 22대 국회 의안정보시스템에 따르면 등록된 AI 관련 법은 총 11건이다.

AI법은 AI에 대한 개념 규정과 산업 전반의 진흥·안전성 확보를 위한 방향성을 담고 있다. 앞선 21대 국회에서 발의됐던 AI법은 소위원회까지 통과됐지만, 정쟁에 묻혀 전체회의에 오르지도 못한 채 국회 임기 종료로 자동 폐기됐다. 따라서 자연스럽게 공은 22대로 넘어왔다.

AI법 제정의 시급성에 대해서는 공감대가 모아지고 있지만, 계속되는 여야 대치 상황 속 국정감사도 이뤄지면서 연내 제정은 불투명하다. 더군다나 방법론적 측면에 있어 여당과 산업계는 AI산업 진흥에, 야당과 시민사회는 기술의 안전한 활요을 위한 규제에 초점을 맞추면서 적잖은 진통이 예상된다.

이처럼 AI기본법 제정이 늦어질 경우 AI산업을 지원할 수 있는 제도적 기반이 마련되지 않아 한국의 인적, 물적 인프라 경쟁력은 갈수록 뒤처질 수밖에 없다. 신중하되 신속한 법 제정이 요구되는 이유다.

일각에서는 법 제정에 속도를 내기 위해 산업의 진흥과 규제 사이의 간극에만 집중하는 것이 아닌 AI기술이 활용되는 각 분야의 특성에 초점을 둔 보다 자세한 논의에 들어가야 한다는 주장도 제기된다.

박도현 광주과학기술원(GIST) AI대학원 교수는 "법제화를 통해 창출되는 사회적 수요와 이를 바탕으로 세계 시장을 선도해 얻을 수 있는 여러 이점을 무시하기 어려운 상황이 됐다"며 "AI법을 진흥과 규제 등 이분법적으로만 바라보니 놓치고 있는 것들이 많다. AI가 활용되는 다양한 분야의 전문가들과 협력해 해당 분야의 특성에 맞는 규제나 지원 방안 등에 대해 논의할 때다"고 말했다.

이예지기자 foresight@mdilbo.com