생성형 인공지능(AI) 개발이 뜨거워지면서 ‘브레이크’가 필요하다는 목소리가 높아지고 있다. 오픈AI와 마이크로소프트(MS)가 정부 차원의 AI 규제를 역설하고 나섰다. 유럽연합(EU)은 ‘AI법’ 제정에 속도를 내고 있다. AI 부작용 을 둘러싼 우려가 커지면서 ‘안전장치’로서의 규제에도 무게가 실린다.

MS의 최고법무책임자인 브래드 스미스 부회장은 지난 25일(현지시간) MS 블로그에 A4용지 6장 분량의 글을 올려 “AI는 항상 인간의 통제 아래에 있어야 한다. 이 원칙은 정부와 테크 기업의 최우선 순위가 돼야 할 것”이라고 밝혔다. 그러면서 정부 주도로 AI 안전체계를 위한 ‘가드레일’을 구축해야 한다고 강조했다.

스미스 부회장은 전기·수도·교통 같은 국가 중요 인프라의 AI 시스템에 ‘안전 브레이크(safety brake)’를 도입해야 한다고 제시했다. 그는 “기존 기술 중에 고속열차, 엘리베이터 등에 적용되는 제동 장치와 유사한 개념”이라고 설명했다. 인간의 판단에 따라 언제, 어디서나 AI를 제어할 수 있어야 한다는 얘기다. MS는 미국 상무부 산하 표준기술연구소(NIST)에서 AI 위험 관리체계를 마련할 것도 제안했다.

앞서 챗GPT 개발사인 오픈AI의 샘 올트먼 최고경영자(CEO)는 미국 상원 청문회에서 AI에 대한 정부 규제를 촉구했다. 그는 AI 분야에도 국제원자력기구(IAEA)와 같은 국제 감시기구가 필요하다고도 했다.

여기에다 EU는 AI 공급기업에 관리감독 의무를 부과하는 걸 추진하고 있다. EU의 AI법안 초안은 AI 개발에 사용한 모든 데이터의 저작권 공개를 의무화한다. EU가 규정하는 ‘고위험 AI 시스템’을 배포한 기업에는 강화된 감독 의무를 적용한다. AI법은 올해 연말이나 내년 초쯤 최종 입법될 전망이다. EU는 입법에 앞서 순다르 피차이 구글 CEO 등과 함께 ‘자발적 AI 협정’ 마련에 합의했다.

당초 미국과 유럽에서 추진하는 AI 규제는 정도나 속도 측면에서 차이가 있다는 평가를 받았다. 블룸버그통신은 “미국 행정부는 AI 개발 관련 구속력 없는 가이드라인을 발표하긴 했지만, 유럽에 비해 규제 노력이 뒤처진다”고 보도했다. AI 업계 관계자는 “미국 빅테크 기업이 유럽 시장을 장악할 수도 있다는 EU의 우려가 작용했을 수 있다”고 분석했다.


그러나, 최근 AI로 만든 ‘미국 국방부 청사(펜타곤) 폭발’ 가짜사진이 확산하며 부작용이 부각되자 빅테크도 AI 규제에 동참해야 하는 분위기가 조성됐다. 전창배 국제인공지능&윤리협회 이사장은 “예상보다 훨씬 빨리 고도화한 AI가 문제를 일으키면서, 빅테크들도 규제 필요성에 공감할 수밖에 없게 된 것”이라고 28일 진단했다.

다만, AI 규제를 두고 미국 빅테크와 유럽 규제당국 간에 갈등이 이어질 수 있다는 관측도 나온다. 일례로 올트먼 CEO는 지난 24일 영국 런던에서 취재진에게 EU AI법 관련해 “법안을 준수하기 어려울 경우 유럽에서 서비스를 중단할 수도 있다”고 말했다. 이후 EU 집행위원회의 위원들 사이에서 “미국 기업들에 휘둘리면 안 된다”는 등의 비판이 나왔다. 올트먼은 자신의 트위터에 “유럽을 떠날 계획은 없다”는 글을 올리고 입장을 번복했다.

조민아 기자 minajo@kmib.co.kr

GoodNews paper ⓒ 국민일보(www.kmib.co.kr), 무단전재 및 수집, 재배포금지