혐오‧차별 댓글? 다음 뉴스에선 발 못붙인다
혐오‧차별 댓글? 다음 뉴스에선 발 못붙인다
  • 이경원 기자
  • 승인 2020.02.27 19:09
  • 댓글 0
이 기사를 공유합니다

악성 댓글 신고·제재 정책 강화...지역·장애·성별 차별 AI로 걸러내
포털 다음(Daum) 뉴스댓글 서비스 개편 후 이미지.<카카오>

[인사이트코리아=이경원 기자] 카카오가 건강한 커뮤니케이션 생태계를 조성하기 위해 악성 댓글 신고·제재 정책을 강화한다.

카카오는 지난 26일 포털 다음(Daum)과 카카오톡 #탭의 뉴스 댓글 서비스·운영 정책을 개편한다고 밝혔다. 뉴스 댓글 서비스에 대한 이용자의 자발적인 참여를 이끌고, 선한 영향력이 바탕이 된 커뮤니케이션 생태계를 구축하기 위해서다.

카카오는 플랫폼 기업으로서의 사회적 책임을 다하기 위한 서비스 개편을 약속한 이래 악성 댓글 신고·제재 등에 적극 나서고 있다.

2017년 업계 최초로 인공지능(AI)을 통해 모든 댓글의 욕설과 비속어를 필터링하는 ‘욕설 음표 치환 기능’을 적용한데 이어 지난해 10월에는 개인의 인격과 명예, 사생활을 보호하기 위해 연예 뉴스 댓글을 폐지했다. 12월에는 인물 관련 검색어, 서제스트 개편과 함께 실시간 이슈 검색어 서비스를 종료했다.

이번 개편에서는 기존 악성댓글 신고 항목에서 욕설·비속어 뿐 아니라 ‘차별·혐오’에 대한 항목을 새롭게 추가했다. 욕설이나 비속어를 쓰지 않더라도 타인에게 불쾌감을 주거나 개인의 인격과 명예를 침해할 수 있다는 점을 감안했다.

이용자가 ‘차별·혐오’에 대한 댓글이라고 생각해 신고하면, 해당 댓글을 삭제할 뿐 아니라 작성자에 대한 제재도 진행함으로써 악성 댓글 작성을 원천적으로 예방한다는 계획이다.

또한 신고한 댓글이 삭제되면 그 결과를 알려주는 ‘신고 알림’ 기능도 도입해 이용자들이 선한 영향력을 행사하기 위한 지속적인 참여를 유도할 예정이다.

<자료=카카오>

‘차별·혐오’에 대한 기준은 신고 버튼을 누르면 “지역, 장애, 성별 등에 차별하거나 혐오감을 조장하는 행위”라고 명시돼 있다.

다만 욕설이나 비속어와는 달리, 차별과 혐오에 관한 댓글이라는 것을 판단하는데 인공지능(AI) 필터링만으로는 어려울 것이라는 우려도 나온다.

이에 대해 카카오 관계자는 “이용자로부터 신고가 들어오면 인공지능이 1차적으로 단어와 맥락을 통해 필터링 한 후, 2차적으로 그 결과를 고객센터에서 판단해 최종적으로 제재를 하게된다”고 설명했다.

카카오는 댓글 서비스에 대한 이용자 권리 보호를 위한 기능도 도입했다.

먼저 댓글 영역 자체의 노출을 관리할 수 있는 ‘접기’ 기능이 생겼다. 댓글 영역 상단의 ON/OFF 버튼에서 OFF를 선택하면 댓글 영역 전체가 사라지며, 다시 ON을 누르면 댓글을 확인할 수 있다.

이와 함께 보고 싶지 않은 댓글이나 해당 댓글 작성자를 앞으로 나에게 보이지 않게 하는 ‘덮어두기’ 기능도 생긴다. 이용자가 많이 덮어둔 댓글과 사용자에 대한 데이터는 AI로 분석해 지속적인 댓글 서비스 개선에 활용한다.

여민수-조수용 카카오 공동대표는 “이번 개편은 다수 이용자들의 선한 의지와 영향력이 서비스에 반영될 수 있게 함으로써 커뮤니케이션 생태계를 이용자들이 직접 만들어 갈 수 있게 한 것”이라며 “이용자의 권리와 인격을 보호하고 사회적 책임을 다하기 위해 약속드린 조치들을 지속적으로 실행해 나가고 있다”고 밝혔다.

카카오는 최신 트렌드를 확인할 수 있는 새로운 서비스를 연내 선보일 예정이며, 이용자 개개인의 취향과 니즈를 반영한 콘텐츠 구독 서비스를 준비하고 있다.

혐오·폭력성 콘텐츠에 대한 자율규제 기준과 이행 방안에 대한 논의도 시작한다. 외부 전문가, 이용자들과의 지속적인 소통을 바탕으로 플랫폼 자율 규제에 대한 정책을 고도화해 나갈 계획이다.

인사이트코리아, INSIGHTKOREA

댓글삭제
삭제한 댓글은 다시 복구할 수 없습니다.
그래도 삭제하시겠습니까?
댓글 0
댓글쓰기
계정을 선택하시면 로그인·계정인증을 통해
댓글을 남기실 수 있습니다.