“연인 간 성적 대화 돌려봐” 이루다 개발사 前직원 폭로

“앱 이용자들 대화, 사내 메신저에 공유돼”
“다만, 개발자도 ‘1차 필터링’ 상태로 정보 접근”
“입사 후 큰 충격…명확히 안내해야”

이루다 페이스북 캡처

AI 챗봇 서비스 ‘이루다’의 개발사인 스캐터랩 내부에서 ‘연애의 과학’ 앱을 통해 수집된 이용자들의 카카오톡 대화를 직원들끼리 돌려봤다는 증언이 나왔다. 이루다는 스캐터랩의 연애 관련 앱인 연애의 과학에 이용자들이 넣은 카톡 대화를 데이터 삼아 개발됐다.

연애의 과학 서비스 팀에서 근무했던 직원이라고 밝힌 A씨는 12일 “이루다 개발팀에서 수집된 사용자의 특정 대화 내용 중 연인 간의 성적인 대화, 농담을 캡처해 사내 메신저 단체방에 공유하는 일도 있었다”며 “내부에서는 이를 심각하게 여기지 않고 웃어넘겼다”고 뉴스1에 밝혔다.

당시 공유된 것은 엑셀처럼 표로 정리된 연인 간의 대화 내용으로, 개발자가 재미있다고 생각하는 부분을 캡처해 올렸다고 한다. 사내 메신저에는 60여명의 스캐터랩 전 직원이 속해 있었다. 다만 개발자들 역시 이름 등 기본적인 정보가 가려진 ‘1차 필터링’ 상태에서 정보에 접근할 수 있었다고 A씨는 전했다.

연애의 과학은 연인 또는 호감 가는 사람과 나눈 카카오톡 대화를 집어넣고 2000~5000원을 결제하면 답장 시간 등 대화 패턴을 분석해 애정도 수치를 보여주는 서비스를 제공한다. 이 앱을 통해 수집된 카톡 대화 내용이 이루다 개발에 사용됐다. 앞서 스캐터랩 측은 수집된 대화량이 100억건에 달한다고 밝힌 바 있다. 어느 챗봇보다 자연스러운 말투를 사용했던 이루다의 대화 능력은 실제 연인의 메시지 내용을 기반으로 만들어져 가능했던 것이다.

특히 연애의 과학 이용자들은 앱 이용 당시 ‘신규 서비스 개발에 활용될 수 있다’는 내용만 고지받았을 뿐 구체적으로 어떤 신규 서비스인지 설명받지 못한 것으로 알려졌다. 성희롱 논란까지 불러온 여성 AI 챗봇 대화에 쓰일 줄은 몰랐다는 것이다. 이루다가 누군가의 실명으로 보이는 이름이나 동·호수까지 포함된 주소를 말하는 등 개인정보 익명화(비식별화)가 제대로 되지 않았다는 의혹도 나왔다.

A씨는 스캐터랩 입사 전 카톡 대화 분석 서비스를 이용했던 사용자로서 입사 후 큰 충격을 받았다고 했다. 대화 로그가 어디까지 개발자들에게 보여지는지 알 수 없어 더는 연애의 과학 테스트를 이용할 수 없었다는 그는 “직원 교육 강화뿐 아니라 대화분석 로그를 제출하는 사용자들에게 어떤 식으로 활용될 수 있는지 명확히 안내해야 한다고 본다”고 말했다.

A씨는 또 김종윤 스캐터랩 대표가 “전 세계 어디를 가도 우리만큼 데이터를 보유하고 있는 곳은 없다. 대부분의 사람은 자기 대화가 노출되는 것을 꺼리지만 우리 서비스를 통해 쉽게 수집할 수 있다”며 평소 직원들에게 자부심을 드러냈다고 폭로하기도 했다.

그러면서도 “이루다가 세상에 나오기까지 얼마나 많은 시간과 노력이 들어갔는지 안다”며 “스캐터랩이 이번 논란의 상처를 극복하고 건강한 인공지능 서비스의 미래를 열어가기 바란다”고 했다.

이루다는 지난달 23일 출시된 이후 악성 이용자에게 성적 도구 취급을 당하거나 장애인·동성애·여성 차별 발언을 해 성희롱·혐오 논란에 휩싸였다. 결국 스캐터랩 측은 11일 “부족한 점을 집중적으로 보완할 수 있도록 서비스 개선을 거쳐 다시 찾아뵐 예정”이라는 입장문을 내고 이루다 서비스를 잠정 중단했다.

박은주 기자 wn1247@kmib.co.kr

GoodNews paper ⓒ 국민일보(www.kmib.co.kr), 무단전재 및 수집, 재배포금지



더 보기

트위터페이스북구글플러스