혐오판단은 척척, 따돌림 파악은 아직 어려운 ‘페북 AI’…왜 그럴까?

인공지능이 게시물 맥락으로 ‘혐오’ ‘따돌림’ 판단
폭력 등 대부분 영역서 사람보다 삭제 속도 빨라
따돌림은 사전 조처 비율 13.3%에 그쳐

12일 오전 온라인으로 열린 ‘페이스북 커뮤니티 규정 집행 미디어 세션’ 화면 갈무리

‘이제 혐오 관련 판단은 곧잘 하지만, 따돌림 맥락은 아직 정교하게 판단하지 못한다.’ 12일 페이스북이 콘텐츠 정책을 설명하는 연례 브리핑에서 밝힌 게시물 관리 인공지능의 현 주소다. 유동연 페이스북 아시아태평양지역(APAC) 콘텐츠 정책 매니저는 “페이스북의 커뮤니티 규정은 사회 변화를 따라서 함께 변하고 있다”며 “현재는 따돌림 등 영역에서 맥락을 정교하게 파악하지 못하는 인공지능을 보완하는 중”이라고 말했다.

페이스북 커뮤니티 규정의 변화상을 보여주는 사례로 최근 ‘신체 긍정성’ 취지의 노출 사진이 차단되지 않도록 바뀐 점을 꼽을 수 있다. 2018년 5월 페이스북은 시민단체 불꽃페미액션이 벌인 ‘상의 탈의 시위’ 사진을 삭제한 적이 있다. 이 시위는 여성의 몸에 부여되는 음란물의 이미지를 거부한다는 취지였는데, 페이스북은 시위 사진을 ‘나체·성적 행위’로 분류하며 삭제했다가 항의를 받고 4일 만에 복구시켰다. 이후 ‘신체 긍정성’의 맥락을 고려하는 쪽으로 인공지능을 고도화했다. 페이스북 쪽은 “‘마른 몸 신화’를 비꼬며 자신의 신체를 보여주는 호주 코미디언 셀레스트 바버의 노출 사진을 내리지 않고 있다”고 설명했다.

12일 오전 온라인으로 열린 ‘페이스북 커뮤니티 규정 집행 미디어 세션’ 화면 갈무리

하지만 ‘따돌림’과 관련해서는 인공지능의 맥락 파악 능력이 여전히 떨어진다. 페이스북 인공지능은 가짜 계정, 혐오, 폭력 등 대부분 영역에서 90% 이상 인간보다 먼저 게시물을 삭제하고 있지만, 따돌림의 경우엔 사전 조처 비율이 13.3%로 크게 떨어진다. 이는 인공지능이 어떤 게시물을 따돌림으로 판단할지 대상과 범위를 아직 가려내지 못해서 발생한 차이다. 유 매니저는 “정말 친한 친구끼리의 심한 장난과 예의를 갖춘 것처럼 보이지만 괴롭힘에 해당하는 말을 인공지능은 아직 구분하지 못한다”고 설명했다. 그는 이어 “정치인 등 공적 인물의 행위에 대한 공격은 일반인일 때보다 폭넓게 허용되어야 하고, 미성년자는 성인과 달리 다뤄져야 하는 등 고려할 사항이 많다”고 덧붙였다.

페이스북과 달리 인스타그램의 ‘따돌림’ 게시물은 93.7%를 인공지능이 걸러냈다. 플랫폼 이용 양상이 달라서다. 유 매니저는 “실명을 바탕으로 이용하는 페이스북과 달리, 인스타그램은 자신의 정체성을 숨기고 익명으로 가계정을 만들어 타인을 비방하가 쉽다”고 설명했다. 그는 “상황의 맥락과 의도를 각 나라와 언어별로 파악하는 일은 아직 인공지능이 할 수 없다. 어떻게 개선시킬지 보완하는 작업이 진행 중”이라고 했다.

페이스북 쪽은 게시물 업로드 등 표현과 관련해서는 “모두가 자유롭게 말하는 것이 기본 원칙”이라고 설명했다. 부정확한 정보가 유통되면 △정확한 정보를 제공하는 쪽으로 안내하거나 △정확한 정보를 함께 표시하거나 △우선순위를 떨어뜨려서 잘 안보이는 아래쪽으로 게시물을 내리는 조처를 취하고 있다는 게 페이스북의 설명이다.

최민영 기자 [e-mail]