유발 하라리 “SNS보다 AI가 더 위험…속도 늦춰야”

<사피엔스> 어린이판 출판 기념
한국 기자들과 영상간담회 열어

19일 오후 서울 종로구 노무현시민센터 다목적홀에서 열린 영상 기자간담회에서 <사피엔스>의 저자 유발 하라리가 영상을 통해 기자들과 대화를 나누고 있다. 김영사 제공

“신약이 나왔을 때 우리는 그것을 그냥 세상에 풀지 않습니다. 그 약이 단기적·장기적으로 진짜 안전한지 따지지요. 그런 것처럼 인공지능이 대중에게 풀리는 시점을 조정해야 합니다. 인공지능에 대해 더 엄격하고 철저하게 안전한지 확인하는 과정이 필요합니다.”

65개국에서 총 2300만부가 팔린 베스트셀러 <사피엔스>의 저자 유발 하라리 이스라엘 예루살렘 히브리대 교수(역사학)가 <사피엔스>의 어린이청소년판 <멈출 수 없는 우리 1>을 최근 국내에서 출간했다. 출판사 김영사의 초청으로 19일 서울 종로구 노무현시민센터 다목적홀에서 열린 영상 기자간담회에 참석한 하라리는 ‘인공지능의 위험성’을 다시 한번 강조하며 “지금 우리에게 필요한 것은 속도를 늦추는 것”이라고 말했다.

하라리는 ‘글 쓰는 인공지능’인 ‘챗지피티(GPT)’를 처음 썼을 때 “매우 충격적이었다”고 말했다. 인공지능이 인간과 같은 수준으로 글을 쓰고 음악, 비디오, 이미지를 만들어냈기 때문이다. 그는 “우리가 보게 되는 텍스트, 비디오, 이미지를 인간이 아닌 인공지능이 만든 세상에 산다는 것은 어떤 것인지 질문해야 할 때”라고 말했다. 또 새로운 인공지능은 현재 페이스북이나 틱톡과 같은 소셜네트워크서비스(SNS)의 알고리즘보다 훨씬 더 위험하다고 지적했다. 하라리는 “플랫폼 기업들은 자신들의 이익을 위해서 사람들이 더 오래 플랫폼에 머무를 방법을 찾는데, 이들 알고리즘은 증오·분노·공포를 유발하는 콘텐츠를 배치해 체류 시간을 늘린다”며 “소셜미디어 때문에 사람들은 더 분노하고 사회는 더 양극화됐다”고 분석했다.

그러면서 그는 새로운 인공지능이 소셜미디어 알고리즘보다 훨씬 더 위험한 이유는 “친밀한 관계를 만들 수 있기 때문”이라고 짚었다. 그동안 사람과 사람의 관계에서 친밀함은 언어를 통해 만들어졌는데, 새로운 인공지능은 사람의 언어를 사용하기 때문이다. 그는 “자라나는 세대가 인공지능과 친밀한 관계를 맺게 된다면, 인공지능이 물건을 더 사게 할 수도 있고 정치적·종교적 신념을 주입할 수 있다”고 경고했다. 공상과학 소설에서는 인공지능이 인간에게 도전하고 공격하는 걸 두려워하는 이야기가 많지만, 인공지능이 ‘새로운 이야기’를 만들어내고 ‘친밀함’으로 무장한다면 총을 쏠 필요 없이 ‘이야기’를 만들어 인간이 서로를 공격하게 만들 수 있다는 것이다.

“인공지능·기후변화 같은 문제는 개별 국가가 해결할 수 없습니다. 전 지구 사람들이 협력해 이 문제를 해결해야 하는데요. 그러려면 현재의 세계를 만든 것도, 그것을 바꿀 수 있는 힘도 우리에게 있다는 사실을 인식해야 합니다. 그것을 어린이와 청소년들에게 알려주기 위해 이번 책을 썼습니다.”

하라리는 인공지능 같은 기술의 위협, 기후변화 같은 전 지구적 문제를 해결하기 위해서는 인류가 가진 힘(Power)을 제대로 이해하는 것이 무엇보다 중요하다고 강조했다. 그는 “인류는 현재 인류가 처한 문제를 풀 수 있는 경제적 자원과 과학적 지식과 기술을 다 가지고 있다”며 “현재의 경제·정치·종교·문화가 인간의 결정을 통해서 만들어졌듯, 우리 미래도 우리가 변화시키고 해결할 수 있다는 것을 직시하고 이해하는 것이 중요하다”고 말했다.

그는 또 “대학교에서 학생들을 가르치면서 어느 정도 성장하고 난 뒤엔 정치·경제·종교 등에 대한 사람들의 의견을 바꾸는 게 어렵다는 걸 알게 됐다”며 “어린이와 청소년들을 위한 책을 써서 과학적 세계관, 역사에 기반을 둔 세계관을 길러주고 싶었다”고 밝혔다.

그는 어린이청소년책을 쓰는 것이 “재밌지만 도전적인 일”이었다고 말했다. 성인을 상대로 글을 쓸 때는 “문장을 길게, 복잡하게, 추상적인 말을 쓰면 성인 독자들은 ‘내가 잘 모르나 보다’라고 생각하는데, 이런 기법은 아이들에게는 먹히지 않기 때문”이다. 길고 복잡하게 쓰면 책을 덮어버릴 어린이청소년 독자들을 고려해 각종 재밌는 이야기, 대화, 농담과 각종 그림을 활용해 책을 구성했고, <사피엔스> 이후 나온 새로운 연구 결과도 책에 반영했다.

“앞으로 20년, 30년 후 어떤 세상이 올지 모릅니다. 인공지능은 교육을 완전히 바꿀 겁니다. 선생님도 학생도 인공지능이 사용될 때 좋은 목적으로 사용하도록 확인할 필요가 있습니다. 그러려면 어떤 정보가 믿을 만한 정보인가 아닌가 스스로 가려낼 수 있는 능력이 있어야 하고, 변화하는 세상에 대한 큰 그림(big picture)을 만들어낼 수 있는 능력이 필요하죠.”

하라리는 미래 세대에게 필요한 교육으로 비판적 사고와 거대한 변화의 시대 흐름을 읽어낼 수 있는 능력을 꼽으면서 그러한 능력을 키우기 위해 “계속 학습하고 변화할 수 있어야 한다”고 강조했다. 그는 “역사는 과거에 대한 공부가 아니라 변화가 어떻게 이뤄지는가에 대한 공부”라며 “이름이니 연대니 정보가 중요한 게 아니라 수십만 년 전에 다른 동물들과 살던 별볼일 없던 존재에서 인간이 현재 세계를 지배하게 됐는지 등과 같은 인류의 변화의 큰 흐름을 이해하는 것이 중요하고, 이 책을 쓴 것도 그것을 아이들에게 알려주고 싶어서”라고 말했다.

양선아 기자 [e-mail]