Home
[미디어SR 권혁주 기자] 네이버가 욕설, 성희롱 댓글을 걸러내는 AI를 업그레이드 한다.
[권혁주 기자] 네이버는 29일 악성댓글 차단프로그램 'AI 클린 봇'을 2.5버전으로 업그레이드한다고 밝혔다.
네이버의 AI 클린 봇은 단순 '욕설 단어'뿐 아니라 '문장 맥락'까지 고려해 악성 댓글을 판단하는 것으로 알려졌다.
하나의 비속어에 대해 많게는 10만개 이상의 변칙어가 존재하는 만큼, 방대한 악성 댓글 데이터를 기반으로 축약어와 오탈자가 많은 구어체 댓글에 대한 분석을 진행한다. A
I 클린 봇에는 시각 이미지 분석에 활용되는 머신 러닝 기법(CNN)과 문장을 물리량으로 표현하는 자체 개발 기술(Persona Embedding) 등이 구현돼있다.
이번 AI 클린봇 업그레이드는 작년 6월 진행된 2.0버전 업그레이드 이후 7개월 만이다. 뉴스 댓글뿐 아니라 방송톡과 네이버 슬롯머신 무료게임 저액 배팅 댓글에도 적용된다.
이번 업그레이드를 위해 AI 클린봇은 기존 학습 데이터를 포함해 약 1억 6000만 건의 데이터를 4개월에 걸쳐 학습 및 고도화에 활용했다. 2.5버전은 이전 대비 정확도가 약 15%가량 향상된 것으로 나타났다.
또한 2.5버전에는 과도한 성적표현에 대한 AI 학습이 반영됐다. 악성댓글 차단 범위를 넓혀, 성적 불쾌감을 일으킬 수 있는 수준의 표현을 차단하는 방식이다. 예를 들어, 직·간접적인 성적 행위나 특정부위 등의 표현들에 대해서는 클린봇이 자동으로 차단한다.
네이버 관계자는 미디어SR에 “네이버는 또한 n번방법 시행에 맞춰'불법촬영물’ 신고 기능 뉴스, 카페, 블로그, 지식In 등 다양한 영역에 추가했다”면서 “앞으로도 네이버는 선언적 의미를 넘어 실질적으로 악성댓글 차단 및 불법촬영물의 2차피해 방지에 최선을 다할 것”이라고 밝혔다.
ⓒ새로운 눈으로 시장을 바라봅니다. 딜사이트경제슬롯머신 무료게임 저액 배팅 무단전재 배포금지
