지난해 4월 유튜브 채널에 업로드된 버락 오바마 전 대통령 동영상을 보고 적잖은 미국인이 깜짝 놀랐다. 오바마가 “트럼프 대통령은 정말 쓸모 없는 사람”이라고 도널드 트럼프 대통령을 모욕하는 내용이 있어서다. 그러나 이 영상은 커뮤니티 사이트 버즈피드가 만든 가짜였다. 영화감독이 성대모사한 영상에 오바마 영상을 입히고, 입 모양을 바꿔 제작했다고 한다. 영상 속 인물이 영락없는 오바마여서 많은 사람들이 속아 넘어갔다.

일본에선 지난 2월 연예인이 출연한 TV 프로그램 화상을 무단 도용해 자사 상품을 복용하는 것처럼 꾸민 다이어트 식품업체 직원들이 경찰에 적발됐다. 이처럼 일본에선 화상을 조작해 상품 선전에 이용하는 사례가 비일비재하다. 유명 연예인의 화상을 TV 프로그램이나 SNS 등을 통해 쉽게 확보할 수 있고, 포토샵 기술의 비약적 발달로 예전에 없던 신종범죄가 생겨나고 있다.

한·아세안 특별정상회의 부대행사로 지난 25일 부산에서 ‘한·아세안 스타트업 엑스포 컴업’이 열렸다. 이 행사에 박영선 중소벤처기업부 장관이 화상출연해 우리나라의 차세대 4차산업 스타트업 현황을 소개했다. 그러나 이 화상은 진짜 박 장관이 아닌 한국의 인공지능 스타트업 머니브레인이 제작한 합성 영상이다. 누가 봐도 박 장관이다.

오바마, 박 장관 영상은 인공지능 기술을 이용해 만든 조작된 이미지다. 이러한 조작술을 딥페이크(Deepfakes)라고 한다. 인공지능 딥 러닝(deep learning)과 페이크(fake·가짜)의 합성어다. 컴퓨터에 데이터를 입력하면 인공지능이 데이터를 스스로 분석하고 학습해 진짜와 거의 똑같은 이미지를 만들어낸다. 딥페이크는 현재 의료와 엔터테인먼트 분야 등 다방면에서 유용하게 활용되고 있다.

문제는 악용되는 경우다. 내년 대통령선거를 앞둔 미국에선 비상이 걸렸다. 트럼프 대통령의 딥페이크 영상까지 돌고 있을 정도다. 사태의 심각성을 인지한 미 의회는 딥페이크를 규제하는 법안을 잇따라 통과시키고 있다. 우리도 강 건너 불구경할 때가 아니다. 내년 총선을 앞두고 딥페이크 영상이 기승을 부리지 않을까 염려해서다. 선거 직전 누군가를 사칭한 딥페이크 영상이 SNS 등을 통해 순식간에 퍼지면 대처할 시간적 여유가 없다. 올해 국회 국정감사에서 딥페이크 문제가 화두로 떠오르긴 했으나 그때뿐이었다. 선거전이 본격적으로 시작되면 가짜뉴스가 넘쳐날 텐데 걱정이다.

이흥우 논설위원

트위터페이스북구글플러스