“인공지능 기술 남용은 인권침해”…인권위에 ‘이루다’ 진정

참여연대·민변 디지털정보위원회 등 시민단체 진정

인공지능 챗봇 이루다. 스캐터랩 누리집 갈무리

여성·성소수자 등에 대한 혐오 발언과 개인정보 유출로 논란을 빚은 인공지능(AI) 챗봇 ‘이루다’ 개발사를 조사하고 정부에 관련 제도 개선을 권고해달라는 진정이 국가인권위원회(인권위)에 접수됐다.

참여연대·민주사회를 위한 변호사모임 디지털정보위원회·진보네트워크센터 등 시민단체들은 3일 “이루다 사건은 개별 인권침해일 뿐 아니라 인공지능 기술의 남용이 인권에 미칠 수 있는 부정적인 영향을 보여준 대표적인 사안”이라며 인권위에 진정서를 제출했다고 밝혔다. 이들은 이루다 개발사인 주식회사 스캐터랩과 과학기술정보통신부 장관 등을 피진정인으로 이루다를 개발·운용하는 과정에서 발생한 인권침해 및 차별행위에 대해 조사하고, 향후 인공지능과 관련해 발생할 수 있는 인권침해와 차별을 예방하기 위한 제도 개선을 권고해달라고 인권위에 촉구했다.

이들은 “이루다 사건은 인공지능 기술 남용에 따른 프라이버시권과 표현의 자유 침해에 대한 제도적 보호 부재를 여실히 드러냈다”며 “우리나라는 4차 산업혁명이라는 이름으로 상업적 분야 등에서 신기술이 비판 없이 도입되고 있으며, 정보 주체인 시민들의 권리를 보장하기 위한 입법적·행정적 기반은 전무하다”고 지적했다. 이어 “이루다 사건으로 드러난 인공지능·알고리즘의 오남용으로 인한 광범위한 인권침해와 차별의 위험성은 적절한 보호조치를 통해 예방돼야 한다”고 주장했다.

이들은 인권위에 이루다 사건에 대한 철저한 조사와 개별 피해자들에 대한 배상 권고를 요청했다. 또 △실효성 있는 영향평가제도 구축 및 감사제도 도입 △인공지능에 의한 차별을 규율하기 위한 평등법(차별금지법) 제정 △프로파일링 및 자동화된 의사결정 거부권 등 정보 주체의 권리 보장 △개인정보 보호법상 가명 정보 및 동의제도에 관한 규정 정비 및 구제 절차 보장 △인공지능 기술 활용에 있어 기업 등이 준수해야 할 가이드라인 개발 및 보급 등의 정책 권고를 제안했다.

김윤주 기자 [e-mail]