인공지능 ‘기대하지 않은 실패’ 줄이려면

“기술 먼저 개발하고 서비스 찾는 ‘상향식 접근’아닌
문제 먼저 설정하고 기술 개발하는 ‘하향식’ 접근해야”

이루다2.0. 스캐터랩 제공

국내 스타트업 ‘스캐터랩’이 지난달 챗봇 서비스 ‘이루다 2.0’을 출시했다. ‘이루다’ 뒤에 ‘2.0’이 붙은 데에는 사연이 있다. 스캐터랩스는 지난 2020년 12월 ‘이루다’를 처음 출시했다. ‘20대 여성 대학생’으로 설정된 캐릭터 이루다는 이용자들이 성희롱성 발언을 해도 수동적 태도로 동조하고, 성소수자에 대한 의견을 물으면 혐오 발언을 내뱉었다. 이루다는 ‘인공지능이 인간의 차별과 혐오를 재생산할 수 있다는 우려를 가장 잘 보여준 사례’라는 평가를 받으며 출시 20여일만에 운영을 중단했다. 스캐터랩은 1년9개월에 걸쳐 언어 생성 모델을 다듬어 서비스를 전면 개편했다.

이루다는 인공지능 기술이 ‘기대하지 않은 실패’를 경험한 대표적인 경우로 평가된다. 인간의 편향을 학습한 인공지능 언어 모델을 대중이 사용하는 서비스에 섣불리 적용해 사회적 문제를 증폭시킨 사례다. 문아람 정보통신정책연구원(KISDI) 연구위원은 3일 오후 서울 서초구 더케이호텔에서 열린 ‘이로운 인공지능의 가능성과 사회적 과제’ 연구 심포지엄에서 “효율적인 의사결정을 중시하는 시장 시스템에서는 정량화와 측정이 상대적으로 용이한 시장 가치가 ‘이로움’이라는 가치보다 우선하기 쉽다”며 “인공지능으로 새롭게 부상하는 가치와 시장 불확실성으로 발생하는 외부효과를 완화할 필요성이 있다”고 말했다.

기술을 인간에게 이롭게 활용하려면, 기술 개발 뒤 어디에 쓸지 고민하는 ‘상향식’ 접근보다 문제를 먼저 설정하고 그에 맞는 기술을 개발하는 ‘하향식’ 접근이 필요하다고 문 연구위원은 강조했다. 예를 들어, 국내 스타트업 ‘센시’는 “시각 장애인을 위한 점자 콘텐츠가 부족하다”는 문제의식에서 출발해 기계학습(머신러닝) 기반 자동 점자 변환 기술을 개발했다. 이 기술을 바탕으로 기존의 10분의 1 비용만 지불해도 책 속 텍스트를 점자로 바꿔 주는 구독형 서비스를 출시해 미국 등에서 올해 상반기에만 100억원이 넘는 매출을 올렸다. 또다른 국내 스타트업 ‘유앤이커뮤니케이션즈’는 “산업 재해 사고의 절반 이상이 건설 현장에서 발생한다”는 문제의식 아래 개발한 알고리즘을 사고 위험 예측 솔루션에 도입해, 예측 정확도를 끌어올리고 시각화를 쉽게 했다.

인공지능 기술이 지니는 독점적 성격 때문에 상향식 접근이 주를 이룰 수밖에 없다는 지적도 나온다. 인공지능 데이터·검증 전문 기업 ‘테스트웍스’의 윤석원 대표는 “인공지능 알고리즘을 개발하기 위해서는 고급 인력과 대규모 데이터, 다량의 컴퓨팅 파워가 필요하다. 대규모 투자가 가능하고 이미 확보해 둔 데이터 양이 많은 구글, 마이크로소프트, 네이버 등 빅테크 기업 위주로 상향식 연구·개발과 상용화가 이뤄질 수밖에 없다”고 말했다.

윤 대표는 “빅테크 기업뿐 아니라 사회적 기업, 스타트업 등 다양한 이해관계자가 데이터 수집·가공 과정에 참여할 수 있어야 현장의 필요를 더 많이 반영한 서비스를 개발하기 쉬워질 것”이라고 했다. 예를 들어, 에스케이텔레콤(SKT)은 저시력자가 스마트폰으로 찍은 사진을 텍스트나 음성 등 자연어로 해석해 주는 ‘시각적 질의응답’(VQA·Visual Question and Answer) 솔루션 ‘티(T)브레인’을 개발하는 과정에서 사회적 기업인 테스트웍스와 협력했다.

정인선 기자 [e-mail]