‘지인능욕’ ‘지인합성’ 딥페이크 단어, 청소년 보호 검색어 추가

클립아트코리아

인공지능(AI) 기술 활용 콘텐츠가 빠르게 늘어나는 가운데, ‘지인 능욕’, ‘지인 합성’ 같은 딥페이크 관련 단어들이 청소년 보호를 위한 검색어에 새로 추가됐다.

22일 한국인터넷자율정책기구(키소·KISO)는 네이버·카카오·에스케이커뮤니케이션즈 등 포털사들과 협력해, 청소년 보호를 위한 검색어 110개를 새로 추가했다고 발표했다. 이번에 추가된 청소년 보호 검색어에는 불법 촬영물과 성 착취 관련 검색어, 마약류 매매·신종 불법 사기대출 관련 검색어 등 불법 및 유해 콘텐츠 관련 검색어들이 포함됐다.

특히 최근 딥페이크 등 인공지능 기술을 활용한 콘텐츠가 늘어남에 따라 ‘지인능욕’, ‘지인합성’ 같은 딥페이크 관련 검색어들이 새로 추가됐다. 일부 성인 콘텐츠 검색에서 노출되는 애플리케이션 ‘언드레스(undress)’ 관련 검색어도 청소년 보호 검색어로 지정됐다.

청소년 보호 검색어는 단어 자체만으로도 유해성이 있거나 검색어 입력 시 유해한 결과를 노출한다고 판단될 경우 등록된다. 이번에 추가된 언드레스의 사전적 의미는 ‘정장이 아닌 편안한 옷을 통틀어 이르는 말’이지만, 최근 사진 속 인물의 옷을 벗기는 딥페이크 앱이 등장하면서 이 검색어의 이용자가 폭증해 악용 우려를 낳았다.

키소는 “단어 자체는 범용적으로 쓰이는 중립적인 단어에 해당하지만 동일 명칭 앱의 유해성을 고려해 선제적으로 청소년 보호 검색어에 추가했다는 점에서 의미가 있다”고 밝혔다.

현재 네이버·카카오·에스케이커뮤니케이션즈 등 포털 3사가 키소와 공동으로 구축·관리하는 청소년 보호 검색어 데이터베이스(DB)에는 5만1천여개 청소년 보호 검색어가 담겨있다. 청소년 보호 검색어로 지정되면, 해당 검색어 검색 결과 노출이 제한된다. 일반 이용자는 연령 확인 절차를 통해 검색 결과를 확인할 수 있다.

키소 자율규제 데이터베이스 위원회는 과거 청소년 보호 검색어로 지정됐지만, 더는 유해한 검색 결과를 동반하지 않을 경우 해당 검색어를 보호 검색어 대상에서 제외하는 심의도 하고 있다.

박지영 기자 [e-mail]