네이버, ‘상습 악플러’ AI로 단속한다…알고리즘 고도화

욕설 단어 넘어서 ‘문장 맥락 파악…모욕적 판단 시 블라인드

네이버 클린봇 설정 화면.ⓒ네이버

네이버는 인공지능(AI)이 악성 댓글 노출을 막는 ‘AI 클린봇’을 한층 고도화했다고 19일 밝혔다.

AI 클린봇은 그동안 욕설과 비속어가 들어간 댓글을 자동으로 탐지해 블라인드 처리해왔다. 지난해 4월부터 웹툰, 쥬니버, 스포츠, 뉴스 등에 차례로 적용됐다.

업그레이드된 AI 클린봇은 악성 댓글 상습 작성자도 자동으로 판단한다. AI 클린봇이 인지한 ‘상습 악플러’는 일정 기간 댓글 서비스를 이용할 수 없게 제한된다.

업그레이드된 AI 클린봇은 이날부터 악성 댓글 판단 기준을 ‘욕설 단어’에서 ‘문장 맥락’으로 확대한다. 비속어가 없어도 문장 맥락을 고려해 모욕적이거나 무례하다고 판단되면 블라인드 처리하는 것이다.

네이버 관계자는 “비속어 한 개에 많게는 10만개 이상의 변칙이 존재하기 때문에 AI 클린봇 만으로 악플 감지 효과를 100% 기대하기는 버겁다”면서도 “다양한 AI 모델과 빅데이터 학습으로 정밀한 AI 클린봇을 구축하겠다”라고 말했다.