‘이루다’ 성차별 학습 잊었나…AI 법안에 성평등 관점 없다

게티이미지뱅크

지난달 5일 미국 뉴욕에서는 기업이 직원을 채용하거나 승진을 결정할 때 활용하는 인공지능(AI)의 성차별 가능성을 차단하는 법을 발효했다. ‘엔와이시(NYC)144’라고 이름 붙은 이 법은 이력서 검토 프로그램 등 채용·승진 관련 인공지능 도구를 이용할 때 성·인종 차별 가능성을 감사받은 뒤 그 결과를 공개하도록 하고, 이를 어길 땐 최대 1500달러(195만원)의 벌금을 부과한다. 한국에서도 인공지능이 여러 분야에 활용되면서, 인공지능과 관련한 법안이 여럿 발의돼 있다. 하지만 대부분 인공지능 연구개발을 뒷받침하는 정책 마련을 위한 법안들로, 성차별 문제가 발생하지 않도록 해야 한다는 내용의 조항은 찾기 어렵다.

21대 국회 출범 이후 6일 현재까지 발의된 인공지능 관련 법안은 12개다. 이 중 인공지능 산업 진흥이 핵심인 법안 7개를 합친 일명 ‘인공지능 기본법안’(인공지능 산업 육성 및 신뢰 기반 조성 등에 관한 법률안)이 지난 2월14일 국회 과학기술정보방송통신위원회 법안심사소위원회에서 의결됐다. 정부가 인공지능의 신뢰성 확보를 위한 법·제도를 정비하고, 보건의료·원자력·교통·범죄수사 등 인간 생명과 안전에 중대한 영향을 미칠 우려가 있는 영역에서 활용되는 인공지능을 규율할 수 있도록 한 법안(소위안)이다. 소위안은 과방위 전체회의 상정을 앞두고 있다.

그런데 이 법안에서 성평등 관점을 반영한 조항은 어디에도 없다. 인공지능에 젠더 불평등과 관련한 제재를 하지 않을 경우, 실제 어떤 차별이 발생하는지 구체적인 사례는 이미 빈번하게 발생해왔다. 예컨대, 2019년 당시 케이티(KT)가 출시한 인공지능 스피커 ‘기가지니’는 자동차를 좋아하는지를 묻는 물음에 “여자라서 그런지 자동차에 관심이 없어요”라고 답해 자동차는 남성의 전유물이라는 성차별 고정관념을 드러냈다. 인공지능 챗봇 ‘이루다’가 2020년 12월 정식 서비스 출시 초창기에 여성과 성소수자를 혐오하는 말을 한 일은, 인공지능이 학습하는 데이터의 편향성을 드러낸 대표적 사례다.

국제사회의 요구 수준에 부합하지 않는다는 지적도 나온다. 유네스코는 2021년 11월 총회에서 ‘인공지능 윤리 권고’를 채택했다. 유네스코는 이 권고에서 성별 고정관념과 편견이 인공지능 시스템에 영향을 미치지 않도록 해야 하고, 이를 알아차리면 적극적으로 시정해야 한다고 밝혔다. 또, 인공지능 개발부터 실행까지 전 주기에 걸쳐 여성의 참여를 장려할 것 등을 제안했다.

이혜숙 한국과학기술젠더혁신센터 소장은 “인공지능 기본법안이 경제, 사회, 환경 등 인간 삶에 영향을 미치는 기술 발전과 관련한 법인 만큼, 젠더 편향이 인공지능에 영향을 미치지 않도록 하는 구체적인 조항을 명시하는 것이 바람직하다”고 지적했다.

오세진 기자 [e-mail]