“인공지능 얼굴인식은 21세기 골상학”

‘AI 나우’ 케이트 크로퍼드 교수, 날선 비판

‘AI 감정인식’ 윤리 논란속 시장 확대
중국은 학습과 성적 예측 등에 적극 활용
MS도 “얼굴인식은 위험…정부 통제 필요”
“AI 윤리보다 ‘권력의 문제’ 접근해야”

“인공지능 기반의 얼굴인식과 감정인식은 21세기 골상학이다.”

2017년 인공지능의 사회적 영향을 탐구하는 연구기관 ‘에이아이 나우(AI Now)’를 공동설립한 케이트 크로퍼드 미국 남캘리포니아대학(USC) 교수는 지난달 미국에서 펴낸 <인공지능의 지도(Atlas of AI>에서 인공지능 얼굴인식과 감정인식이 19세기의 골상학과 유사하다고 비판했다.

폴 에크먼이 1960년대부터 주장해온 인간의 ‘6가지 보편 기본감정’이론에 따라, 분류한 사람의 표정. 인공지능 기계학습을 통해 사람의 표정이 기계화처리되면서 편리함과 함께 새로운 문제를 불러일으키고 있다. 연구자 제프리 콘과 가나데 다케오가 에크먼의 기준에 따라 분류한 기쁨, 분노, 혐오, 슬픔, 놀람, 두려움(윗줄 왼쪽부터)을 나타내는 표정. 콘-가나데 제공

최신 스마트폰의 잠금해제 기능과 금융거래 앱 등은 얼굴인식을 통해 자동으로 신원을 식별한다. <뉴욕타임스>는 2018년 5월 영국 해리 왕자와 영화배우 메건 마클의 결혼식 하객들을 아마존의 얼굴인식 도구 ‘레커그니션’을 통해 일일이 식별해냈다. 중국 공안은 얼굴인식 기술을 활용해 수만명이 운집한 콘서트장에서 수배자를 체포하고 신호위반 보행자를 적발해내고 있다. 홍콩에서 개발된 ‘4리틀트리(4 Little Trees)’ 프로그램은 인공지능 얼굴인식으로 수업중인 학생들의 감정 상태를 파악하고 학습 동기 측정과 성적 예측을 하는 도구로 쓰이고 있다. 미국의 인공지능 채용프로그램 파이메트릭스, 하이어뷰 등은 ‘편견없고 효율성 높은 채용면접관’으로 불리며, 맥도널드·크래프트·하인즈 등 많은 다국적 기업에서 활용되고 있다. 감정인식 기술은 원격 감시, 운전 등 작업 피로도 감지, 쇼핑과 마케팅 분야로 확산되고 있으며, 업계는 이 분야 시장이 2026년까지 370억달러(41조원) 규모로 성장할 것으로 전망하고 있다.

인공지능의 정확도 높은 이미지 인식 능력을 활용한 얼굴인식과 감정인식 기능을 활용한 서비스가 늘어가는 한편 업계와 학계에서 비판의 목소리도 높아지고 있다.

마이크로소프트 회장이자 최고법률책임자(CLO)는 브래드 스미스는 지난 3월 국내 출간한 <기술의 시대>에서 “얼굴인식 기술을 사용한다면 유례없는 규모의 집단감시가 발생할 수 있다”며 “얼굴인식 기술 자체는 물론이고 개발·사용 기업까지 법률로 통제해야 한다”고 주장했다. 스미스 회장은 2018년 7월에도 “얼굴인식 기술은 정부 감독 없이 활용하기 너무 위험한 기술”이라며 규제를 공개적으로 요청한 바 있다. 마이크로소프트 리서치는 2019년 4월 “얼굴인식 기능이 인종과 성별을 기반으로 사람을 도식화하고 분류한다는 점에서, 극복 불가능한 결함을 지닌 기술”이라며 ‘인공지능의 플루토늄’이라고 주장하기도 했다. 얼굴인식 기술은 본질적으로 유해한 기술이기 때문에 자동차나 의약품처럼 정부가 안전성을 연구·관리해야 하는 ‘위험한 기술’이라는 것이다.

홍콩의 인공지능 개발사가 서비스중인 감정인식 학습용 프로그램 ‘4 리틀 트리’.

‘골상학’은 19세기 미국의 의학자 새뮤얼 모턴이 두개골과 얼굴 형태로 인류를 아프리카인, 아메리카 원주민, 코카서스인, 말레이인, 몽골인 등 5종으로 구분할 수 있고 이를 통해 성격과 특성이 파악가능하다고 한 주장이다. 크로퍼드 교수는 인공지능 얼굴인식과 감정인식이 골상학처럼 인간을 비과학적이고 부당하게 분류하는 용도로 쓰이고 있다고 주장했다.

인공지능 감정인식 기술은 심리학자 폴 에크먼의 기본감정 이론에 뿌리를 두고 있다. 에크먼은 1960년대 미 국방부가 후원한 방대한 실험연구를 통해 모든 사람의 표정은 기쁨, 두려움, 혐오, 분노, 놀람, 슬픔 등 6가지로 분류할 수 있다는 ‘보편적 기본 감정’ 이론을 주장했다. 에크먼의 6가지 기본감정 분류는 맥락과 문화, 사회적 요소를 무시하는 접근법이라는 인류학자 마거릿 미드의 비판을 받았지만, 컴퓨터와 기계학습에 적용하기 쉬운 모델로 다양한 분야에 적용이 확산됐다. 9.11테러 이후 미 교통안전국은 이 기술로 잠재적 테러리스트와 승객들의 얼굴에 나타난 두려움과 스트레스 정도를 측정해, 신뢰성과 인종 차별 논란을 불렀다. 하지만 미국 정보기술 전문지 <와이어드> 4월26일치에 따르면, 1000개 넘는 연구논문 검토결과 얼굴에서 사람 감정을 신뢰성있게 추론할 수 있다는 증거가 발견되지 않았다.

크로퍼드는 얼굴인식, 감정인식 분야만이 아니라 현재의 인공지능의 문제에 대한 접근법이 지나치게 협소하며 기술적 개선 위주라고 지적했다. 그는 <엠아이티(MIT) 테크놀로지 리뷰>와의 인터뷰에서 “지난 10년간 기술 분야의 진짜 함정은 문제에 항상 기술적 해결책이 제시돼왔고, 최근 규제와 정책 입안자의 역할을 추가하는 쪽으로 범위가 확대돼 왔다는 점”이라며 인공지능을 ‘권력의 관점’으로 접근해야 한다고 강조했다. 이는 그동안 ‘인공지능 윤리 원칙’이나 ‘선한 인공지능’ 같은 윤리적 접근법 대신 ‘누가 인공지능을 실제로 운영하고 조작하는지’ 권력의 문제로 다뤄야 한다는 주장이다.

‘인공지능의 지도(Atlas of AI)’ 저자인 케이트 크로퍼드 남캘리포니아대(USC) 교수.

그는 <와이어드>와의 회견에서는 “인공지능을 신비롭고 객관적인 도구로 제시하는 등 전문가들이 인공지능을 더 오해하고 있다”며 “인공지능은 인공적이지도 않고 지능적이지도 않다는 점에서 기만적 명칭”이라고 말했다. 인공지능은 방대한 천연자원과 에너지, 그리고 인간의 노동력 투입으로 만들어지고, 인간의 훈련 없이는 사물을 분별할 수 없고 의미를 만들어내는 방식도 완전히 다르기 때문이라는 것이다.

크로퍼드 교수의 주장은 그동안 윤리적 가이드라인을 통해 인공지능으로 인한 문제를 해결하려는 시도 또한 근본적으로 ‘기술 위주 접근’에 불과하다는 점을 지적하며, 인공지능을 기술적 접근법과 논의를 넘어서 지구 생태계와 사회 전반에 영향을 끼치는 권력의 문제로 접근한다는 점이 특징이다. 이는 인공지능의 문제가 기술계 논의 아닌 사회적 규제의 대상임을 요청한다는 점에서 인공지능 담론 지평을 확대하고 있다.

구본권 ㅣ 사람과디지털연구소장 [e-mail]