일본 정부 ‘인공지능 판단 기업이 설명하라’

AI 활용 7원칙 다음달 발표
활용 확산 따른 부작용 우려
유럽연합 윤리지침 제정 작업 중

일본 정부가 기업이 인공지능(AI)을 사용할 경우에는 인공지능의 판단에 관해서도 설명 책임을 지게 하는 정책을 추진한다.

<니혼게이자이신문>은 일본 정부가 이런 내용을 뼈대로 한 인공지능 활용에 대한 7가지 원칙을 작성했다고 27일 보도했다. 일본 정부가 만든 ‘인간 중심 인공지능 사회 원칙 검토 회의’는 다음달 이를 공표할 예정이다.

‘인공지능 7대 원칙’에는 기업의 설명 책임 외에도 △인공지능은 인간의 기본권 침해할 수 없음 △모든 사람이 인공지능을 이용할 수 있도록 교육 충실화 △개인정보 신중 관리 △인공지능 관련 보안 확보 △공정한 경쟁 환경 유지 △국경을 넘어 자료를 이용할 수 있는 환경 정비를 내용으로 한다.

인공지능은 최근 금융기관의 대출 업무와 기업의 채용, 중증 환자 수술 여부 결정 등에서 세계적으로 폭넓게 활용되고 있다. 대량의 자료를 활용해 학습하는 ‘딥 러닝’을 이용해 최종 판단을 내리는 인공지능의 특성은 장점이지만, 부작용을 우려하는 목소리도 있다. 우선 사람들은 인공지능의 판단 근거를 파악하기 어렵다. 인종이나 국적에 따른 차별 가능성 또한 배제할 수 없다. 이 때문에 인공지능의 판단에 대해서 누군가는 설명하고 책임을 질 필요가 있다. 현재까지 이 문제가 애매하게 처리됐지만, 인공지능 활용 범위가 확산하면서 책임을 명확히 할 필요가 제기된다.

일본에서도 노동 인력 부족 여파로 인공지능 활용 시도가 활발하다. 소프트뱅크는 아이비엠(IBM)이 개발한 인공지능 ‘왓슨’을 신입사원 서류전형에 활용하고 있다. 후코쿠생명은 지난해부터 보험금 사정 업무 일부를 인공지능에 맡기고 있다.

유럽연합(EU)도 인공지능의 활용 원칙 마련에 노력을 기울이고 있다. 유럽연합은 인공지능의 판단 과정을 기업이 알기 쉽게 설명하라는 방침을 밝힌 ‘인공지능 윤리지침’을 올 연말까지 마련할 예정이다. 논의 중인 원안에는 ‘사람을 위한 인공지능’이라는 제목으로 △인공지능의 판단 과정을 알기 쉽게 설명할 책임은 기업에 있다 △판단에 어떤 자료를 사용했는지 등에 대한 정보 공개 제도를 만들 것 △인공지능의 구조와 운용을 윤리적으로 감사할 수 있는 기관을 만들 것 △윤리적 인공지능 인증 제도를 마련할 것 등의 내용이 들어있다.

도쿄/조기원 특파원 [e-mail]