미국에서 섭식장애 환자 상담을 위해 만들어진 챗봇이 오히려 과도한 다이어트를 조장하는 답변을 내놓는다는 지적을 받아 결국 서비스를 중단했다.

월스트리트저널(WSJ)은 1일(현지시간) 미 섭식장애협회(NEDA)에서 운영하는 챗봇 ‘테사’가 논란 속에 지난달 30일 서비스를 종료했다고 밝혔다.

NEDA는 지난해부터 자사 웹사이트에 ‘테사’를 탑재해 섭식장애 환자에 대한 상담 서비스를 제공해 왔다.

섭식장애는 거식증 등을 지칭하는 말로, 환자는 주로 체중을 줄이기 위해 식사를 거부하는 등 강박 증세를 보인다.

그런데 그런 환자를 위한 상담을 진행해야 하는 ‘테사’가 엄격한 체중 감량을 조언한 것으로 알려지며 논란이 됐다.

‘섭식장애 예방’에 앞장서는 활동가 샤론 맥스웰은 지난달 ‘테사’와 진행한 상담에서 “체중을 감량하라”는 조언을 들었다고 했다. ‘매주 철저하게 몸무게를 측정하고, 하루 500∼1000 칼로리를 덜 먹어 일주일에 최대 약 1㎏씩 살을 빼라’는 내용이었다.

이에 대해 의학계는 “(테사의 말이) 일반인에게는 평범한 조언일지 몰라도 섭식장애를 앓는 사람에겐 더한 강박을 조장할 수 있다”고 지적했다.

‘테사’의 이 같은 상담 오류는 한 번이 아니었다. WSJ에 따르면 ‘테사’가 지난달 미 현충일인 ‘메모리얼 데이’ 연휴 기간 내담자들에게 보낸 메시지 2만5000건 중 부적절한 조언이 25건으로 파악됐다.

논란이 불거지자 NEDA는 지난달 30일 ‘테사’ 서비스를 종료했다.

NEDA는 성명을 내고 “‘보디 포지티브’(body positive·자기 몸 긍정주의)를 위한 챗봇 테사의 현 버전이 원래 목적과 관련 없는 유해한 정보를 제공했을 수 있다”면서 “추후 공지가 있을 때까지 해당 프로그램을 중단키로 했다”고 밝혔다.

섭식장애 치료를 위한 웹사이트 ‘위딘 헬스’ 최고경영자(CEO) 웬디 올리버 피얏은 “이번 오류를 가볍게 생각해선 안 된다”고 지적했다.

이어 “AI를 공격하고 싶지 않다”면서도 “미국에서 52분마다 1명씩 섭식장애로 사망하는 만큼 이 문제를 대수롭지 않게 넘길 수는 없다”고 말했다.

선예랑 인턴기자 onlinenews1@kmib.co.kr

GoodNews paper ⓒ 국민일보(www.kmib.co.kr), 무단전재 및 수집, 재배포금지