네이버, 99.5% 정확도로 실시간 음란물 잡아낸다

네이버가 실시간 음란 이미지 필터링 시스템 '엑스아이(X-eye) 2.0'을 오는 7월부터 적용한다고 29일 밝혔다. 음란 이미지가 네이버에 등록될 경우 실시간으로 감지해 검색 노출을 막아주는 시스템으로, 정확도를 99.5%까지 높인 점이 특징이다.

네이버는 지난 2017년 음란 이미지 필터링 시스템 '엑스아이'를 처음 선보였다. 4백여만 장의 이미지를 형태별로 분류해 인공지능(AI) 학습을 거쳐 만들어졌다. 네이버에 따르면 기존에는 이미지 모니터링 담당자들이 조치할 때까지 유해물이 노출된다는 단점이 있었지만, 엑스아이 도입 이후 98.1%의 정확도로 유해한 사진과 동영상을 실시간으로 걸러냈다.

'엑스아이 2.0'에는 네이버 AI랩과 클로바가 진행한 선행 이미지인식 기술 연구 결과들이 적용됐다. △속도, 정확도가 더욱 높아진 고성능 이미지인식 모델 '렉스넷'(ReXNet) △AI 모델 학습 시 데이터 부족을 위해 사용되는 데이터증강기법 '컷믹스'(CutMix) △더욱 안정적으로 모델을 학습하고 인식 정확도를 향상시키는 최적화 기법 'AdamP' 등 다양한 AI 기술이 적용됐다.

기존 정상/음란으로만 구분하던 데서 정상/음란/성인/선정 4가지 등급으로 분류 체계를 고도화했으며, 정확도는 99.5% 수준으로 높였다. 단순 음란 이미지뿐만 아니라 선정적 표현에 대한 판단 정확도도 높여 다양한 서비스에 활용할 수 있다.

유봉석 네이버 서비스운영총괄은 "건전한 인터넷 이용 환경 조성을 위해 네이버는 음란물, 성인물은 물론 불법촬영물, 혐오 등 사회적 변화에 맞춰 다양한 유해 콘텐츠 차단을 위해 지속적으로 노력해오고 있다"며 "추후 엑스아이의 오픈 API 기술을 공개해 아직 기술이 부족한 스타트업과 사업자 등 다양한 영역에서 활용할 수 있도록 준비 예정"이라고 밝혔다.

[사진] 온라인커뮤니티, NHN 제공