인공지능 길들이기 ‘7개 황금기준’ 나왔다

2035년을 배경으로 한 할리우드의 에스에프(SF) 영화 '아이로봇'은 자율적인 판단과 실행 능력을 갖춘 인공지능 로봇이 등장해, 사람의 지시를 따르지 않는 상황을 배경으로 한다.

[구본권의 사람과디지털]
유럽연합, 신뢰성있는 AI윤리 지침 발표
책무성, 설명가능성, 편견배제 7개 준칙
“유럽의 AI 선도 전략”엔 비판적 평가도

“로봇은 사람을 해치지 않아야 하고, 명령에 복종해야 하며, 스스로 보호해야 한다.”

과학소설(SF) 작가 아이작 아시모프가 1942년 소설에서 제시한 ‘로봇 3원칙’이 현실의 옷을 입으며 구체화하고 있다.

유럽연합 집행위원회는 4월8일(현지시각) ‘신뢰가능한 인공지능 윤리 가이드라인’을 공개했다. 집행위원회가 공개한 40여쪽의 문서는 유럽 각국에서 모인 52명의 전문가그룹의 논의를 통해 만들어졌다. ‘신뢰할 수 있는’ 인공지능을 위해 인공지능이 충족시켜야 할 윤리적 조건이다.

인공지능 윤리 가이드라인은 7개 원칙으로 구성되어 있으며, 핵심은 인공지능 시스템의 책무성, 설명가능성, 편견 배제로 압축된다. 아시모프의 로봇 3원칙이 자율살상로봇의 등장을 대비한 것이라면, 이번 윤리 지침은 실제로 의료, 교육, 소비자 응대 서비스로 만날 인공지능 알고리즘의 문제를 다룬 ‘실용적’ 가이드라인이다.

이번에 제시된 유럽연합의 인공지능 윤리 가이드라인은 구속력을 지닌 법률안은 아니지만, 인공지능 개발 및 사용에 관련한 중요한 지침과 고려사항을 제시한다. 향후 인공지능 법률안이 구체화할 경우 기본틀이 될 수 있다.

인공지능이 질병 진단과 치료에 쓰이고, 기업 채용과 면접 과정에서 활용되는 상황에서 아래의 7가지 가이드라인은 ‘인공지능의 신뢰도’를 판단하는 주요한 잣대 역할을 할 수 있다.

유럽연합 집행위원회가 2019년 3월8일 발표한 인공지능 윤리 가이드라인의 구성도

1. 인간의 관리와 감독 : 인공지능은 사람의 자율성을 짓밟지 않아야 한다. 사람들은 인공지능 시스템에 의해 조작되거나 강요되어서는 안된다. 소프트웨어가 내린 모든 결정에 사람들이 감독하고 개입할 수 있어야 한다.
2. 기술적 견고성과 안전 : 인공지능은 안전하고 정확해야 한다. 적대적 사례(adversarial example)와 같은 외부 공격에 쉽게 침해되어서는 안되며 합리적으로 신뢰할 수 있어야 한다.
3. 프라이버시와 데이터 통제 : 인공지능에 의해 수집되는 개인정보는 안전하고 비공개적이어야 한다. 쉽게 침해당하거나 접근이 개방되어서는 안된다.
4. 투명성 : 인공지능 시스템을 구성하는 데이터와 알고리즘은 접근가능해야 한다. 소프트웨어에 의한 결정은 사람이 이해할 수 있고 추적가능해야 한다.
5. 다양성, 비차별성, 공정성 : 인공지능의 서비스는 연령, 성별, 인종 및 사람의 여타 특성과 무관하게 모두에게 이용가능해야 한다. 마찬가지로 시스템은 이런 측면의 편향성을 지녀선 안된다.
6. 친환경성과 사회적 웰빙 : 인공지능 시스템은 친환경적으로 지속가능해야 하고, 긍정적 사회적 변화를 증진해야 한다.
7. 책무성 : 인공지능 시스템은 평가가능해야 하며 내부고발자 보호가 적용되어야 한다. 사전에 시스템의 부정적 영향이 인지되고 보고되어야 한다.

이번에 발표된 윤리 가이드라인에는 7가지 지침별 상세한 ‘평가목록’(초안)도 함께 제시됐다. 전문가들이 인공지능 소프트웨어에서 잠재적 취약성이나 위험성을 파악하는데 도움을 줄 수 있는 질문들의 목록이다.

1번 지침(인간의 관리와 감독)에 예시된 16개의 평가목록은 아래와 같은 질문들로 구성되어 있다.

“챗봇이나 대화시스템의 경우에 인간 사용자가 자신이 소통하고 있는 상대가 사람아닌 대상이라는 것을 알려줍니까?”
“(인공지능 시스템을) 통제하는 사람이 누구이며, 언제가 사람이 개입하는 순간이며 개입방법은 무엇입니까?”

유럽연합은 이번 가이드라인의 용도를 인공지능 윤리 논의에 국한하지 않는다는 것을 밝히고 있다. 유럽연합은 최초로 다국적 논의틀을 통해 만들어진 인공지능 윤리 가이드라인 제정을 통해 인공지능 경쟁에서 유럽의 우위를 확보하고자 하는 의도를 갖고 있다. 안드루스 안십 유럽연합 집행위원회 부위원장은 8일 “가이드라인은 신뢰할 수 있는 인간중심 인공지능 분야에서 유럽이 리더가 되기 위한 경쟁력 확보 차원의 윈윈 전략”이라고 밝혔다.

유럽연합은 인공지능 분야에서 미국과 중국에 비해 뒤진 상황인데, 윤리 연구와 가이드라인 논의를 통해 이 분야 경쟁력을 확보하겠다는 전략이다. 실제로 유럽연합은 오랜 기간에 걸친 다각적 논의와 절차를 거쳐, 디지털 환경을 겨냥한 개인정보보호규정(GDPR)을 마련한 사례가 있다. 글로벌 정보기술 기업들은 GDPR의 강력한 프라이버시, 잊혀질 권리, 설명 요구할 권리 등에 대해 반발했지만 무위로 돌아갔다. 최근 페이스북의 마크 저커버그는 유럽연합의 GDPR을 치켜세우며 이를 다른 나라들로 확대해야 한다는 주장을 하기도 했다.

하지만 윤리 중심의 인공지능 전략에 대한 회의적 시선도 있다. 데이터혁신센터(Center for Data Innovation)의 선임정책분석가 엘린 치보트는 “윤리적 인공지능의 황금기준을 만들어내 유럽연합이 글로벌 인공지능 경쟁에서 입지를 강화한다는 전략에 회의적이다. 윤리적 인공지능에서 앞서가기 위해선 일단 인공지능 자체에서 앞서나가야 한다”고 인터넷 매체 ‘버지(Verge)’를 통해 밝혔다.

구본권 선임기자 [e-mail]