전 국민이 스마트폰을 손에 쥐고 온종일 콘텐츠를 소비하는 ‘콘텐츠 범람’의 시대에 콘텐츠 제작사들 입장에서는 악성 코멘트가 큰 골칫거리다.
악성 코멘트가 노출되면 다른 사용자들이 불쾌감을 느껴 사용자 경험(UX·user experience)이 저하되고, 이런 경우가 잦아지면 해당 플랫폼에서 이탈할 가능성이 커지기 때문이다.
24일 IT업계에 따르면 게임개발사, 온라인동영상서비스(OTT), 포털 등 IT 관련 기업들은 최근 이런 악성 코멘트 문제를 해결하기 위해 독자적인 인공지능(AI) 시스템 개발에 나서고 있다.
게임업계 AI 개발 선두주자는 넥슨이다.
넥슨은 AI 기술 연구 조직인 ‘인텔리전스랩스’에서 머신러닝 기술을 활용해 욕설, 혐오 표현, 도박 광고 등을 차단하는 텍스트 탐지 기술을 개발했다.
넥슨의 텍스트 탐지 기술은 사람들이 많이 쓰는 전통적인 욕설뿐 아니라 신조어 성격의 욕설, 또는 특수 기호 등을 이용한 욕설 등까지 잡아낸다.
넥슨 관계자는 “과거 자연어 처리 방식의 욕설 차단 기술은 단어 일부를 변형하면 욕설을 발견하지 못했는데, AI 기반 기술은 변형된 형태의 욕설도 탐지가 가능하다”면서 “욕설뿐 아니라 불법 광고 등의 탐지에도 활용된다”고 설명했다.
넥슨은 텍스트 탐지 기술을 게임 내 채팅에도 적용하고 있다. 일부 온라인게임에서 실시간 필터링 용도로 사용되고 있으며 적용 게임을 점차 확대할 예정이다.
넥슨 인텔리전스랩스는 2017년 설립된 후 현재 200여명 규모로 커졌다. 넥슨은 올해도 AI 등 연구 인력을 계속 채용해 인텔리전스랩스를 300여명 규모로 키울 계획이다.
토종 OTT ‘왓챠플레이’를 운영하는 왓챠도 영화·드라마 등 콘텐츠 감상평에 AI 모니터링 기술을 개발·적용하고 있다.
왓챠 사용자들은 영화나 드라마 시청 전후 다른 사용자들의 감상평을 보는 경우가 많다. 유명 영화 평론가들도 왓챠에 코멘트를 남기기 때문에 감상평은 왓챠의 UX를 좌우하는 핵심 요소 중 하나다.
왓챠의 AI 모니터링 기술은 코멘트의 부적절성 여부를 판단해 확실하게 부적절한 경우 블라인드 처리한다.
왓챠 AI 역시 넥슨처럼 특수기호를 사용한 욕설이나 혐오 표현까지 잡아낸다.
왓챠 관계자는 “과거에는 문제 되지 않았지만 시대 변화에 따라 지금은 차별·비하 표현으로 여겨지는 표현도 잡아낼 수 있도록 AI가 학습하고 있다”면서 “정치적 올바름에 어긋나는 혐오 표현인지 AI가 판단할 수 있게 될 것”이라고 말했다.
20년 동안 연예인 악플, 댓글 여론 조작 등의 사건·사고를 겪으며 ‘댓글과의 전쟁’을 치르고 있는 네이버 역시 댓글에 AI 기술을 도입한 대표적인 IT기업이다.
네이버는 지난해 4월 ‘AI 클린봇’을 개발해 웹툰, 스포츠, 뉴스 등에 순차적으로 도입했다.
AI 클린봇은 그동안 욕설·비속어가 들어간 댓글을 자동으로 블라인드 처리해왔는데, 최근 악성 댓글 판단 기준을 ‘욕설 단어’에서 ‘문장 맥락’으로 확대하도록 고도화됐다.
비속어가 없어도 문장 맥락을 고려해 모욕·혐오 표현이라고 판단되면 AI가 블라인드 처리하는 것이다.
업그레이드된 AI 클린봇은 악성 댓글 상습 작성자도 자동으로 판단한다. 클린봇이 인지한 ‘상습 악플러’는 일정 기간 댓글 이용이 제한된다.
네이버 관계자는 “비속어 한 개에 많게는 10만개 이상의 변칙이 존재하기 때문에 AI만으로 악플 감지 효과를 100% 기대하기는 버겁다”면서도 “다양한 AI 모델과 빅데이터 학습으로 정밀한 AI를 구축할 수 있다”고 말했다.
