챗GPT는 안전한가…극단주의 양산 ‘소셜 딜레마’ 반복될라

“6개월간 개발중단을” 유명인사들 호소

소셜 미디어의 폐해를 비판한 넷플릭스 다큐멘터리 <소셜 딜레마>의 포스터. 인공지능에 대한 통제가 초기에 이루어지지 않을 경우 ‘소셜(미디어) 딜레마’처럼 ‘인공지능 딜레마’가 재현될 수 있다. 넷플릭스 누리집 갈무리

챗지피티를 능가하는 지피티4가 출시되고, 기술기업 간 경쟁이 심화하면서 인공지능이 가져올 혁신과 기대감 너머로 두려움도 커지고 있다. 지난달 29일, 일론 머스크 테슬라 최고경영자 등 정보기술 분야 리더들은 “거대언어모델 기반 인공지능 개발을 6개월간 중단해야 한다”고 주장했다. <사피엔스>의 저자 유발 하라리와 트리스탄 해리스, 에이자 래스킨 등 인도적 기술센터 설립자들도 <뉴욕 타임스> 공동기고문에서 “인공지능은 가장 위협적 기술이기에 인공지능이 인류를 장악하기 전에 인간이 인공지능을 통제해야 한다”고 주장했다. 인공지능에 대한 의존도가 낮은 지금이야말로 안전한 인공지능 개발을 위한 ‘골든타임’이라는 호소다.

기술 기업들의 ‘군비경쟁’

이들의 호소 배경엔 빅테크 기업들의 ‘군비경쟁’이 위험수위에 도달했다는 인식이 있다. 오픈에이아이의 지피티4 외에도 챗지피티급 소형 언어모델인 스탠포드대학교의 알파카, 생성형 인공지능 미드저니 버전5.0, 마이크로소프트 오피스와 지피티가 통합된 마이크로소프트 365 코파일럿 등 굵직한 발표들이 연이어 쏟아져나오고 있다. 약 5억4천만년 전 지구의 생명체가 폭발적으로 다양해진 시기를 빗대어 ‘인공지능의 캄브리아기’로 불릴 정도다.

지피티4와 같은 거대언어모델은 인간 언어를 습득했다는 점에서 ‘1980년대 그래픽사용자환경(GUI)에 비견되는 혁명적인 기술’(빌 게이츠)로 간주된다. 하지만 안전성이 충분히 입증되지 않아 불안감도 커지고 있다. “생명공학 연구소는 안전성이 검증되기 전 새로운 바이러스를 공개할 수 없다. 지피티4를 능가하는 인공지능 시스템도 안전성이 입증되기 전에 인류 문명에 스며들게 해서는 안 된다”고 유발 하라리는 <뉴욕 타임스> 기고에서 강조했다. 시장 선점을 위한 기술기업 간 경쟁이 격화되어 걷잡을 수 없는 속도로 진행될 경우 안전성의 구멍이 뚫리면서 인류를 위협할 수 있다는 우려다.

지피티4와 같은 인공지능의 미래에 대한 불확실성도 두려움을 가중시키는 요인들이다. 개발자가 전혀 예상하지 못한 방식의 ‘돌발 행동’으로 인공지능이 인간에게 해악을 끼칠 수도 있다는 우려도 커지고 있다. 지난 2월, <뉴욕 타임스> 칼럼니스트는 마이크로소프트의 챗봇 빙이 “치명적 바이러스를 개발하거나 핵무기 발사 버튼에 접근할 수 있는 비밀번호를 얻겠다”고 말한 대화 내용을 소개해 큰 충격을 안긴 바 있다.

좀 더 근원적인 불안감도 제기되고 있다. 언어는 신화, 법, 예술, 과학 등 인류 문명의 운영 체계를 탄생시킨 토대다. 유발 하라리는 “인공지능이 언어를 습득하게 되면서, ‘문명의 마스터키’도 넘어가게 될 가능성이 있다”고 말한다. “우리는 언어를 통해 구축된 문화라는 프리즘, 즉 언론, 예술, 종교 등을 통해 현실을 경험하는데, 인공지능이 만든 프리즘을 통해 현실을 경험하게 될 경우, 자칫 인공지능에 의해 문명의 기반이 파괴할 수도 있다“는 경고다.

인공지능 딜레마

낮은 수준의 인공지능과 알고리즘에 의해 구동되던 소셜 미디어는 초기에 권위주의를 허물고 활발한 소통과 참여를 통해 민주주의에 기여하리라는 기대감이 컸지만 현실은 정반대였다. 인공지능은 신약 개발, 특정 유형의 암 발견, 기후 에너지 위기 해법 개발 등에 기여하면서 인류의 삶을 구원할 파트너가 될 잠재력이 크다. 하지만 통제가 이루어지지 않을 경우 ‘소셜(미디어) 딜레마’처럼 인류에 해악을 미치는 ‘인공지능 딜레마’가 재현될 수 있다는 우려도 적지 않다.

2020년 넷플릭스로 방영된 다큐멘터리 <소셜 딜레마>는 소셜 미디어 알고리즘이 중독을 유도해 극단화된 의견에 갇히고, 사회 양극화 심화, 민주주의 혼란 등을 초래했다고 비판했다. <소셜 딜레마>에 출현했던 트리스탄 해리스와 에이자 래스킨은 <뉴욕 타임스> 공동기고문에서 “소셜 미디어에 사용된 인공지능은 콘텐츠를 만드는 것이 아니라 큐레이션하는 것에 불과할 정도로 원시적이지만 사회에 큰 폐해를 끼쳤다”며 “거대언어모델 기반의 인공지능은 훨씬 큰 부작용을 낳을 수 있다”고 경고했다. “소셜 미디어는 인공지능과 인류의 첫 대면이었고 인류는 패배했다. 거대규모 언어모델은 인공지능과의 두 번째 대면으로 첫 번째 대면에서의 패배를 교훈 삼아 인공지능이 우리 사회의 기반을 파괴하지 않도록 통제해야 한다”는 게 이들의 주장이다.

최후의 골든 타임

지난달 29일 미국 비영리단체 ‘미래삶연구소(FLI)’는 1000명 이상의 유명 인사들이 서명한 것으로 알려진 서한에서 “독립적인 외부 전문가가 감독하는 안전 규약(프로토콜)을 개발할 때까지 모든 인공지능 연구실에서 오픈에이아이가 최근 공개한 인공지능 모델 지피티4보다 강력한 인공지능 개발을 최소 6개월간 즉시 중단할 것” 등을 주장했다. 민간이나 기업들이 이러한 중단을 시행할 수 없다면 정부가 개입해야 한다고 했다.

소셜 미디어는 심각한 폐해가 드러났지만 이미 많은 사회, 경제, 정치 시스템이 얽혀 있어 해결이 어렵다. 문제는 시점인데, 사회의 근간을 이루는 시스템이 더 강력한 인공지능에 종속되기 전에 인공지능을 통제할 수 있는 법과 시스템을 구축해야 한다는 공감대가 확산하고 있다. 인간과 공존하는 인공지능을 위한 골든타임이 얼마 남지 않았다는 의미다.

한귀영 사람과디지털연구소 연구위원 [e-mail]