누가 AI 앞에 인간을 쪼그라들게 만드는가 [책&생각]

정인경의 과학 읽기

AI 지도책
세계의 부와 권력을 재편하는 인공지능의 실체
케이트 크로퍼드 지음, 노승영 옮김 l 소소의책(2022)

읽는 내내 뇌가 얼얼해지는 책을 만났다. 을 쓴 케이트 크로퍼드는 마이크로소프트 연구소 등 미국의 기업과 학계에서 10여년간 경력을 쌓은 전문가다. 스스로 ‘한 줌의 사기업’이라고 말하는, 에이아이(AI) 산업의 심장부에서 “인공지능 제국을 이해할 새로운 방법론”이 필요하다는 것을 절감했다고 한다. 이 책을 통해 인공지능의 총체적 문제를 다면적 통찰과 실증으로 고발하고 있다. 한 편의 영상물로 제작해도 좋을 정도로 이야기의 구성이 탄탄하고 매력적이다.

첫 페이지는 영리한 말, ‘한스’에 관한 일화가 소개된다. 단서에 따라 행동하도록 훈련받은 한스는 마치 인간과 같은 인지능력이 있는 것처럼 보였다. 많은 사람들은 말이 대단한 지능이 있다고 착각했는데 이 일화는 지능의 실체를 생각하고, 우리가 인공지능에 속고 있음을 느끼게 하는 적절한 예시였다. 마지막은 아마존의 제프 베이조스가 벌이는 우주 개발사업을 조명한다. 블루 오리진의 로켓 발사체가 있는 텍사스 서부, 인공지능에서 우주 사업까지 기술 억만장자의 야심이 드러나는 곳에서 지은이의 여정이 마무리되는 모습이 의미심장하게 그려진다.

책 제목과 표지 그림조차 예사롭지 않다. ‘지도책’(Atlas)은 인공지능이란 용어가 혼란스럽게 남용되는 현재의 상황을 반영한다. 인공지능이 만들어지는 세계 전체를 보다 넓고 큰 맥락에서 들여다본다는 뜻이 담겨 있다. 우리가 ‘추상적인 연산체계’로 여기는 인공지능의 배후에는 거대한 물질의 세계가 있고, 척박한 환경에서 스러져간 기술 노동자가 있고, 돈과 권력을 향한 지배 욕망이 있었다. “인공지능은 체화되고 물질적인 지능이며 천연자원, 연료, 인간 노동, 하부 구조, 물류, 역사, 분류를 통해 만들어진다.” 이 사실을 증명하기 위해 지은이는 네바다의 리튬 광산, 유타의 데이터 센터, 뉴저지의 아마존 물류 센터, 필라델피아 펜실베이니아 대학 인류고고학박물관, 뉴욕의 스노든 자료실을 찾아간다. 이곳에서 발견한 알고리즘, 데이터, 클라우드, 인터넷 등의 인공지능은 인간 노동이 떠받치고, 지구 환경을 오염시키는 자원집약형 추출식 기술이었다.

책표지와 곳곳의 그림 몇 장이 이 모든 내용을 함축하고 있다. 그중에 인간 두뇌가 프리즘에 비춰지고 바코드로 형상화되는 그림은 기계학습에 제공되는 데이터의 문제를 한눈에 드러낸다. 사회적 맥락이 소거된 데이터는 프리즘의 한 측면만을 보여준다. 데이터를 수집하고 분류, 명명하는 방식이 결국 인공지능이 만드는 세상(world-making)에 한계를 짓는다. “편향은 증상이며 근본 원인은 더 깊숙한 곳에 있다.” 인공지능이 생산한 지식을 얼마나 믿을 수 있는지, 의심하지 않을 수가 없다. 현재 인공지능의 지적 토대는 매우 허약하다. 과거 우생학에서 성행하던 두개골 측정이 생물학적 정체성을 바코드로 나타내는 ‘디지털 표피화’로 재현되고 있다.

그럼에도 우리는 인공지능이 똑똑하고 효율적이고 기술적 대세라고 믿는다. <AI 지도책>은 바로 그 생각, “가능한 일은 실현될 것이라는 기술 불가피론”에 맞서야 한다고 촉구한다. 언제부터 우리가 기계를 숭상하고 인간의 자부심을 내려놓았는가? 누가 인공지능 앞에 인간을 쪼그라들게 만드는가? 인공지능을 어디에 쓸지 궁리하기보다 “우리는 왜 인공지능을 이용하는가?”에 대해 끊임없이 질문해야 할 때다.

정인경/과학저술가