카카오가 다음 포털 뉴스 댓글 서비스 등에 인공지능(AI) 기반 댓글 필터링 기능 ‘세이프봇’을 적용한 이후 2년 동안 욕설·비속어가 포함된 댓글이 3분의 1 수준으로 줄어든 것으로 나타났다.

카카오는 14일 세이프봇 기능을 적용하기 전인 2020년 하반기와 적용 후인 올해를 비교한 결과를 발표했다. 카카오는 2020년 12월 세이프봇을 도입했다. 세이프봇은 욕설, 비속어를 포함하거나 게시물 운영 정책을 위반한 댓글을 AI 기술로 분석해 자동으로 필터링하는 기능이다.

욕설과 비속어는 음표로 치환한다. 다른 이용자에게 불쾌감을 줄 수 있는 댓글을 노출되지 않도록 가린 뒤 신고 처리까지 자동으로 한다. 현재 다음과 카카오톡 뷰 탭 뉴스 댓글 서비스에 적용 중이다.

월평균 음표 처리된 댓글 수는 세이프봇을 적용하기 전인 2020년 하반기 대비 2021년 53.7%, 2022년 63.8% 감소했다. 전체 댓글 중 이용자가 신고한 욕설 댓글 비중도 2020년 하반기 4.2%에서 올해는 2.4%로 줄었다. 이용자 신고로 삭제된 욕설 댓글 역시 지난해 73.6%, 올해 91.7%로 줄었다.

카카오는 “세이프봇이 욕설이나 비속어가 담긴 댓글을 신속하게 필터링하면서 이용자도 자발적으로 건전한 댓글 문화에 동참한 것으로 분석된다. 온라인 공론장인 뉴스 댓글 서비스의 건강성도 높아졌다”고 설명했다. 카카오는 내년 증오 발언을 판별하는 학습 데이터를 구축해 내년 상반기 세이프봇에 적용할 계획이다.

전성필 기자 feel@kmib.co.kr

GoodNews paper ⓒ 국민일보(www.kmib.co.kr), 무단전재 및 수집, 재배포금지