인공지능의 진정한 위험

[책과 생각] 정인경의 과학 읽기

기계는 어떻게 생각하고 학습하는가
뉴 사이언티스트 외 지음, 김정민 옮김/한빛미디어(2018)

인공지능의 목표는 인간을 향하고 있다. 인간처럼 생각하고 추론하고 학습할 수 있는 기계를 꿈꾸고 있는 것이다. 200년 전, <프랑켄슈타인>에서 등장한 ‘인간을 본뜬 피조물’은 컴퓨터의 발명으로 실현되는 듯하다. 언젠가는 인공지능이 인간의 지능을 앞서는 ‘특이점’이 올 것이라는 예측이 쏟아지고 있다. 기대와 우려가 섞인 이 예측은 1956년 인공지능이라는 용어가 나온 이래로 꾸준히 제기되었다.

지난 70여년간 인공지능의 역사는 기계와 인간의 공존에 관한 이야기다. 인공지능이 왜 만들어졌을까? 이 질문을 바꿔 말하면 ‘인간은 왜 인공지능을 만들려고 할까?’이다. 이렇게 인간의 욕망이 개입하는 지점에는 인문학적이고 철학적 성찰이 필요하다. ‘인간에 대한 이해’ 없이는 최근 인공지능의 발전이 의미하는 것을 설명하기 어렵다. <기계가 어떻게 생각하고 학습하는가>는 이러한 본질적인 문제를 정면으로 다룬다. 인공지능은 인간의 지능을 닮았을까? 기계가 인간을 지배하는 것이 가능할까? 인공지능의 진정한 위험은 무엇일까?

이 책의 공저자로 참여한 토비 월시 등은 인공지능의 장밋빛 미래에 비판적 목소리를 낸다. 특이점의 도래를 예측하는 이들과는 대척점에 서서 ‘인공지능의 겨울’이 올 수 있다고 예고한다. 먼저 구체적인 개발 사례를 통해 기계 지능의 작동 방식부터 파고들어 간다. 기계는 어떻게 학습하는가? 알파고로 잘 알려진, 머신러닝 기법 중에 딥러닝은 뇌를 모방한 ‘신경망’이라는 기술에 기초한다. 현재로는 가장 나은 결과를 보여주지만, 이 새로운 기계 지능은 데이터에 의존한 통계 기술을 응용한 것이다. 사실 이것은 인간의 사고방식을 닮은 지능이 아니다.

아라이 노리코 교수는 2011년부터 지금까지 ‘도로보군’이라고 이름 지은 인공지능을 자식처럼 키우면서 도쿄대학에 합격시키는 것을 목표로 도전해온 수학자다. 7년이 지나자 도로보군은 전체 수험생의 상위 20%에 해당하는 우등생으로 성장했다. 시험문제를 풀고 있는 인공지능 도로보군. 사진 도쿄대학교, 해냄출판사 제공. 출처 <대학 가는 AI VS 교과서를 못 읽는 아이들>

어찌 보면 알파고는 꼼수에 가깝다. 인공지능 시스템은 ‘진짜’ 지능이 될 만한 자기 인식 과정 없이 목적한 결과를 얻는다. 고양이가 어떤 존재인지 이해하지 못하면서 고양이를 인식하고 구별하는 것과 같다. 또 인공지능이 ‘당신 취향의 영화’를 골라주는데 왜 그런 결정을 했는지 역추적해서 알 수가 없다. 우리가 해석할 수 있는 규칙으로 결정을 내린 것이 아니기 때문이다. 인공지능, 머신러닝, 신경망과 같은 용어는 ‘생각하는 능력’을 뜻하지만, 우리가 생각하는 방식과는 다르다. 기계는 단순 연산을 매우 많이 반복할 뿐, ‘생각’하지 않는다. 이렇게 이 책은 직설적으로 말한다. 인간과 같은 인공지능의 개발은 “아직 그 근처에도 가지 못했다”고.

그럼에도 인공지능이 가져올 삶의 변화는 우리를 불안하게 만든다. 진정한 위험은 인공지능으로 우리가 사는 세상이 서서히, 다양한 방식으로 파괴되는 것이다. “걱정해야 하는 것은 기술 자체가 아니라 인간이 어떻게 기술을 설계하고 이용하는지에 대한 것이다. 인공지능은 이미 인공지능을 제어하는 사람들에게 커다란 힘을 부여하고 있다. 기업이나 영리단체는 매우 많은 혁신적 성과를 쏟아내고 있다. 그런데 이들은 누구의 이익을 위해 일하는가? 이 문제의 답은, 다른 경우와 마찬가지로 인간에게 달려 있다. 인공지능이 인간으로부터 일자리와 존엄성과 인권을 빼앗을 수는 없다. 다른 인간만이 그렇게 할 수 있다.”

우리는 수천만년을 같이 살아온 인간끼리도 공존하는 법을 터득하지 못했다. 기계와의 공존에서 두려운 것은 다름 아닌 인간이다.

과학저술가