[왜냐면] 인공지능 오류에 대한 대비는 완벽한가 / 안선주

안선주
성균관대 삼성융합의과학원 초빙교수(의료관리학 박사)

인공지능 기술이 의료, 제조, 금융, 법률을 비롯한 산업 전반에 속속 도입되면서 혁신을 거듭하고 있지만, 동시에 예상치 못한 부작용도 낳고 있다. 인공지능 비서 알렉사가 가족 간의 사적 대화 내용을 집안에 설치된 에코에 녹음해 회사 동료에게 무단으로 전달해서 프라이버시를 침해한 사례, 쇼핑센터에 설치된 지능형 로봇이 어린이를 공격해서 상해를 입힌 사례, 건물 수비 로봇이 스스로 연못에 빠진 사례, 인공지능 챗봇 테이가 인종차별·욕설 등 폭력적 언어를 훈련받아 악의적 수단으로 변질된 사례, 자율자동차가 사람을 사망에 이르게 한 사례 등 오작동과 오류의 유형이 다양하고 그중 일부는 치명적이다.

이러한 오류는 개발 및 사용 과정에서 발생하는, 의도치 않은 돌발성 오류와 개발자 및 사용자가 의도한 계획성 오류로 구분 가능하다. 테이의 악의적 학습 사례가 사용자에 의해 의도된 계획성 오류에 속한다. 의도된 계획성 오류는 인과관계가 비교적 분명하게 드러나 해결도 쉽다. 하지만 오류의 대부분은 돌발성 오류에 속한 것으로, 제조 과정에서 예측 불가능했던 것이고, 그중 일부는 실패 원인을 아직도 밝혀내지 못했다.

기계학습과정에서 사용되는 학습용 데이터에 따라 인공지능은 천차만별의 결과를 사용자에게 제공하므로, 결과의 맹목적인 신뢰보다는 기획, 제조, 판매 및 사용 지점에서 검증 과정이 수반되어야 한다. 이렇게 기준이 없는 인공지능의 안전성과 책임성 확보를 위한 대안으로 최근 인공지능의 ‘표준화’가 급부상하고 있다. 이미 전기전자기술자협회(IEEE)는 인공지능 관련 표준을 개발 중이고, 2017년 11월부터는 인공지능 표준화를 전담하는 국제기구가 만들어져 활동 중이다. 지난 10월8일부터 12일까지 미국 실리콘밸리에서 열린 회의에는 구글, 마이크로소프트, 화웨이, 아마존웹서비스, 인텔, 아이비엠, 필립스 등이 참석했다. 기업과 학계가 학습데이터에 의한 인공지능의 편향 방지, 알고리즘의 투명성 확보, 오류 발생 시 책임 문제, 신뢰성 확보를 위한 표준안 개발에 합의하였다.

금번 10월 회의의 특징 중 하나는 헬스케어 기업이 대거 참여했다는 것이다. 의료정보, 의료기기 및 빅데이터 비즈니스 기업들이 인공지능 표준화에 관심을 가지는 이유는 명확하다. 대부분의 의료 인공지능이 클라우드 및 빅데이터와의 융합제품이기 때문에 전통적 규제 틀로 성능을 평가하기엔 역부족이다. 일부 의료 인공지능 제품의 경우, 학습데이터가 갱신되면 알고리즘도 갱신되므로 최종 결과의 재현성 여부가 불분명하다.

하지만 인공지능의 발전 속도는 가히 혁명적이다. 따라서 불확실성은 낮추고 예측력은 높이는 인공지능 표준화가 정부, 기업과 소비자 모두에게 도움이 된다. 표준은 산업발전 속도와 규제발전 속도 간 괴리가 발생하는, 인공지능과 같은 최첨단 분야에서 유용하기 때문이다. 개별 국가에서 발 빠르게 대처하기 어려운 문제를 회원국들이 합의한 공통 기준으로 대응한다는 점에서 표준 개발에 상당한 의미를 부여할 수 있다. 기업은 표준 제정 과정에 직접 참여해서 인공지능의 오류를 최소화하고 글로벌 기준에 맞는 제품을 만들게 되므로 소비자는 표준의 혜택을 보게 된다. 이렇게 공익적 목적 달성을 위해서 만들어지고 있는 인공지능 분야 국제표준은, 자발적 권고이며 강제 기준이 아니다. 그럼에도 모든 국제표준이 그러한 것처럼 향후 교역의 기준이 된다.

인공지능이 보편화되고 있고 인류의 인공지능에의 의존도 역시 높아졌다. 하지만 우리가 직면한 현실은 인공지능이 완벽하지 않다는 사실이다. 이것이 인공지능 제조사와 사용자들이 오류 사전 감지와 통제를 위한 대비책을 만드는 이유이다. 앞으로 제정되는 인공지능 표준은 유관 제도와 산업 발전을 저해하는 것이 아니라 안전한 개발과 활용의 촉진제 구실을 해야 할 것이다. 국가 및 기업 차원에서 인공지능 분야의 세계 질서 창출에 기여하고 산업적으로 성공하기 위해 의료를 포함한 전 산업 분야에서 인공지능 표준화에 관심을 가져야 할 때가 왔다.