혐오막고 농촌돕고…사회문제 팔걷은 디지털기술

챗GPT등 대화형 인공지능 돌풍속
“욕설·비속어 DB 공개, 공동활용”
국내 포털·게임사, 공동대응 눈길

코로나에서 학습한 ‘회복탄력성’
농어민-소비자 연결, 장애인 고용
기술활용 사회개선 노력 돋보여

2023 HTA 열쇳말 ‘언어DB’와 ‘회복탄력성’

인간 수준의 언어 능력을 구사하는 대화형 인공지능 챗지피티(GPT)가 등장해 충격을 안겨주고 있는 한편, 사람들 사이에선 어느 때보다 언어가 폭력의 매개체와 발단이 되는 경우가 늘어나고 있다. 소셜미디어, 카페, 댓글, 게임 커뮤니티 등 온라인 공간에서의 소통이 늘어나면서 언어를 통한 욕설과 모욕도 함께 증가하고 있기 때문이다. 온라인에서 욕설의 문제는 보다 깊은 사회적 현상과 맞닿아있다. 그 피해를 줄이기 위해서는 어떠한 기술적 노력이 가능할까?

2023년 제8회 휴먼테크놀로지 어워드는 온라인 공간에서 욕설과 비속어로 인한 문제를 해결하기 위해 지속적 노력을 기울여온 한국인터넷자율정책기구(KISO)의 ‘이용자 보호 시스템(KSS)’을 올해의 대상으로 선정했다. 이 시스템은 네이버와 카카오 등 국내 양대 포털이 수년간 구축해온 욕설 데이터베이스를 활용한 이용자 보호 서비스다.

네이버와 카카오 등은 이용자들이 댓글이나 게시판에서 욕설과 비속어 등 특정 단어를 아예 입력할 수 없도록 한 ‘금지단어 데이터베이스’를 운용해오고 있다. 노골적인 비속어와 욕설 등은 인터넷을 소통의 공간에서 다툼과 배설의 공간으로 저질화시키는 주범인데, 서비스 주체와 이용자들의 미묘한 줄다리기가 항상 진행된다. 아무리 많은 단어를 금칙어로 차단해도 일부 이용자들은 교묘하게 변형된 욕설을 계속 찾아내고, 과도하게 금지단어를 설정하면 이용자들의 정당한 비판도 차단하는 표현의 자유 침해 문제도 생겨난다. 다양하고 교묘하게 생성되는 새로운 형태의 욕설과 비속어를 차단하기 위해서는 상당한 인력과 운영 노하우, 전문 데이터베이스가 필요하기 때문에 규모가 작은 인터넷 기업은 게시판과 같은 소통 공간 운영이 부담으로 작용하고 있다.

국내 주요 인터넷기업들이 자율규제를 정착시키기 위해 설립한 한국인터넷자율정책기구는 이번 조처를 통해 그동안 네이버와 카카오 등 국내 대표 인터넷 기업이 구축해온 욕설·비속어 데이터베이스를 통합해 다른 기업들도 이를 활용할 수 있도록 개방하고 다양한 부가서비스를 제공하기로 했다. 두 포털사가 수집해 공개한 욕설 데이터베이스가 60만 건에 이를 정도로 방대하다. 한국인터넷자율정책기구는 중소 사업자들도 이 데이터베이스를 손쉽게 적용할 수 있도록 응용프로그램(API)를 마련해, 실질적인 이용 확대를 꾀하고 있다.

이와 함께 한국게임정책자율기구(GSOK)에서 만든 ‘말뭉치 데이터베이스’도 이용자 부문 우수상으로 선정됐다. 게임사들이 그동안 수집해온 17만건 규모의 욕설 등 금칙어 데이터베이스인데, 게임에서만 고유하게 쓰이는 비속어와 모욕적 표현을 모은 말뭉치이다. 주요 게임사들이 그동안 각 사별로 구축해온 자료를 통합해, 공동의 데이터베이스를 만든 것이다.

심사위원들은 챗지피티와 바드 등 대화형 인공지능의 충격을 계기로 디지털 기술에서 언어 데이터베이스와 학습이 얼마나 중요한지를 알려주는 상황에서 국내 포털과 게임사들이 구축해온 욕설과 비속어 데이터베이스를 일반에 공개해 인터넷 공간을 개선하려는 노력은 주목할 만하고 대화형 인공지능의 발전에도 도움이 될 것이라고 평가했다.

네 차례에 걸쳐 진행된 심사위원회에서 위원들은 “올해의 휴먼테크놀로지 어워드는 포스트 코로나 시대 사회 곳곳의 ‘회복 탄력성’ 시도에 주목해야 한다”고 의견을 모았다. 코로나 이전 생활로 회복하는 국면에서 코로나 시기를 경험하면서 깨닫게 된 교훈과 공동체의 과제 속에서 이를 개선하기 위해 등장한 다양한 시도들을 찾아내 격려하고 알리는 게 필요하다는 제언이었다. 구체적으로는 코로나로 인해 중요성과 가치를 절감하게 된 헬스케어, 반려동물, 심리상담 관련 영역에서 인간적 가치를 높이기 위해 애쓴 기술과 시도들이다. 또한 코로나 상황이 해제되고 일상으로 돌아가는 과정에서 기술을 이용해 기존 문제점을 개선하려고 애쓰는 시도들을 주목해야 한다는 의견도 있었다.

일상 회복으로 여행 수요가 되살아나는 상황에서 기술을 이용해 이용자 위주의 가치 제공과 위축·소멸해가는 지방 문제를 개선하기 위한 시도를 결합한 사례가 좋은 평가를 받았다. 폐광으로 비어가는 정선의 탄광촌인 고한읍 주민들이 나서서 마을의 빈집과 각종 시설을 ‘마을 호텔’로 개조해 새로운 개념의 여행·숙박 시설로 일궈낸 ‘마을호텔 18번가’가 특별부문 최우수상으로 선정됐다. 주민이 주도하는 마을 재생과 공동체 건설의 좋은 사례다.

디지털 기술이 필수인 세상에서 충분한 디지털 자원과 능력을 갖추지 못한 자영업자와 소상공인, 농어민들의 생계활동을 지원하고 소비자와 직접 연결시켜주는 기술과 서비스도 높은 평가를 받았다. 전문 회계 서비스에 어두운 자영업자들이 날마다 매상과 이익을 챙기고 현금 흐름을 한눈에 볼 수 있도록 지원해줘 ‘국민 사장님 앱’으로 불리는 ‘캐시노트’에 이용자 부문 최우수상이 주어진다.

작황에 소비 트렌드에 따라 공급 과잉과 판매 감소 영향을 받는 농특산물을 인터넷 플랫폼과 소셜미디어를 통해 생산자와 소비자를 직접 연결시켜 판매를 돕는 카카오 메이커스의 ‘제가버치’에는 특별 부문 최우수상이 수여된다.

사회공공 부문에서는 크라우드 소싱을 통해서 환경활동에 나선 사람들이 환경오염을 막고 쓰레기 수거 등을 기록하고 환경 정화에 기여한 선행을 측정하고 기록해 데이터화하는 사단법인 이타서울의 ‘이타시티’가 선정됐다. 심리검사 및 정신건강 플랫폼인 ‘마인드카페’, 아이 돌봄을 필요로 하는 부모와 돌봄 노동 공급자를 연결하고 투명한 정보 제공을 통해 양쪽의 요구를 만족시켜주는 ‘맘시터’도 이용자 부문 우수상으로 뽑혔다. ‘조용한 택시’ 수요를 사업화해서 고객 만족과 청각장애인 일자리 창출에 기여한 에스케이텔레콤과 소셜벤처기업 코액터스의 협업모델인 ‘고요한 M’, 에스케이텔레콤(SKT)의 동물 영상진단 서비스 ‘엑스칼리버’에도 특별부문 우수상이 수여된다.

구본권 사람과디지털연구소장 [e-mail]

☞ 휴먼테크놀로지 어워드(HTA)란

‘휴먼테크놀로지 어워드’는 디지털 기술의 영향력이 커지는 환경에서 사용자 주권을 드높이고 사람 친화적인 디지털 기술을 찾아 기술을 좀 더 인간화하기 위해 만들어졌다. 권위와 전문성을 갖춘 외부 전문가들이 지표 개발에 참여하고 실무 검토 과정을 거쳐, 2015년 제1회 휴먼테크놀로지 어워드 시상이 이뤄졌다. 평가는 이용자 부문, 사회공공 부문, 특별 부문으로 나뉘어 진행되고, 기술과 서비스의 편리성, 안전성, 창의성, 가치창출성, 정보공유성, 공익성을 평가 지표로 삼아 검토가 이뤄진다.

2023년 8회째인 휴먼테크놀로지 어워드는 윤종수 변호사(법무법인 광장, 크리에이티브커먼즈코리아 리드)가 평가위원회 위원장을 맡아 심사를 진행했다. 윤 위원장을 비롯해 김국현 에디토이 대표, 배영 포항공대 교수, 이원태 한국인터넷진흥원장, 전진한 알권리연구소 소장, 채백련 빅웨이브 대표, 황용석 건국대 미디어커뮤니케이션학과 교수 등 7명의 전문가가 평가위원으로 참여하고 있다. 전문조사단을 통해 사람 친화적 서비스를 조사하고 발굴한 뒤, 평가위원들이 참여하는 4차례의 온-오프라인 평가위원회 회의를 거쳐 수상 후보들을 검토하고 압축해가며 위원들 간 토론을 통해 수상작을 선정했다. 시상식은 오는 16일 서울 대한상공회의소 국제회의장에서 개최되는 제2회 한겨레 사람과디지털포럼의 오후세션에서 진행된다.