챗GPT의 기회와 위기, 공존의 기술을 묻다

제2회 사람과디지털포럼, 무얼 얘기하나

“새로운 AI 등장으로 완전히 새로운 위험·경이 던져져”
‘편의’라는 열광 뒤편엔 인간이 만든 도구에 지배당할 처지
세계 전문가들, 기술 통제와 악용 예방할 방법 해법 모색

사람 지능을 뛰어넘는 인공지능의 등장으로 인류 역사는 완전 새로운 국면에 진입할 것인가. 누구나 예술가와 발명가가 될 수 있는 창의성 폭발의 세상이 될까, 아니면 기계가 만들어낸 가짜 정보가 진짜와 구분되지 않는 대혼돈과 파국의 아수라장이 될까?

지난해 11월30일 대화형 생성인공지능 ‘챗지피티(GPT)’가 등장한 뒤 일찍이 경험하지 못한 열광과 우려, 공포가 전세계를 휩쓸고 있다. 서비스 공개 두 달여 만에 월 사용자가 1억명을 넘어서면서 역사상 가장 빠른 속도로 보급되고 있는 기술이라는 게 그 한 장면이다. 각계 명사와 전문가들이 경고와 우려의 목소리를 내고 있으며 갈수록 그 표현과 강도가 높아지고 다급해지고 있다는 것도 일찍이 보기 어려운 현상이다.

마이크로소프트 공동 창업자인 빌 게이츠는 지난 3월 “인공지능 시대가 열렸다”라는 글에서 챗지피티가 그래픽사용자환경(GUI)같은 혁신기술이라고 주장했다. 직관적 사용법의 그래픽사용자환경이 실질적으로 정보화시대를 연 것처럼, 챗지피티는 누구나 인공지능을 자유롭게 다양한 용도로 활용하는 시대를 불러올 것이라는 얘기다.

누구나 자유롭게 인공지능을 다루면 산업과 일자리, 교육, 예술창작 등 사회 전 분야는 충격적 변화를 겪게 된다. 생성형 인공지능을 활용해 생산성을 높이고 업무를 자동화하려는 다양한 시도는 이미 시작됐다. 반면 일자리가 없어지고, 교육에서 엉터리 인용과 표절이 일반화할 할 수 있다.

<사피엔스> 저자 유발 하라리는 “태초에 말씀이 있었듯, 언어는 인간 문화의 운영체제”라며 “인공지능의 새로운 언어 숙달은 이제 문명의 운영체제를 해킹하고 조작할 수 있음을 뜻한다”고 우려했다. 노암 촘스키 매사추세츠공대(MIT) 명예교수는 “챗지피티는 첨단 기술 표절 시스템”으로 “머신러닝은 근본적으로 결함 있는 언어와 지식의 개념을 우리 기술에 통합함으로써 과학을 저하시키고 윤리를 약화시킬 것”이라고 경고했다.

헨리 키신저 전 미 국무장관, 에릭 슈미트 전 구글 회장 등은 지난 3월 <월스트리트저널> 공동기고를 통해 “새로운 인공지능의 등장으로 출발점과 목적지를 알 수 없는 역량이 탄생해, 인류의 미래엔 완전히 새로운 미스터리와 위험, 경이가 던져졌다”며 인공지능 시대에 누구도 알 수 없는 도구에 의존하게 되는 상황을 우려했다.

인공지능 최고의 기술전문가들도 프랑켄슈타인 박사처럼 자신이 개발한 인공지능이 설계자의 통제를 벗어나 제멋대로 날뛰고 피해를 끼칠 미래를 예견하고 자신의 연구개발을 후회하는 상황에 이르렀다. 딥러닝의 신경망 구조를 개발해 인공지능의 대부로 불리는 제프리 힌턴 토론토대 교수는 지난달 “인공지능이 우리보다 더 똑똑해질 것 같다”며 “나쁜 의도를 지닌 사람들에 의해 악용될 수 있다”고 경고한 뒤 10년간 몸담아온 구글에서 퇴직했다.

지난 3월 일론 머스크, 유발 하라리 등 세계적 명사들이 “챗지피티4 이상의 인공지능 개발 6개월 유예” 성명을 발표했고, 지난달 30일엔 인공지능 연구를 이끌어온 샘 올트먼 오픈에이아이(OpenAI) 최고경영자, 데미스 하사비스 딥마인드 최고경영자, 제프리 힌튼 교수, 요수아 벤지오 교수 등이 인공지능으로 인한 ‘인류의 절멸 가능성’을 언급하며 인공지능의 위험성을 핵전쟁과 신종 전염병 같은 차원으로 긴급대응해야 한다는 성명을 발표했다.

급기야 공상과학영화의 한 장면 같은 일도 보고됐다. 영국 왕립항공학회에 따르면, 미 공군 인공지능시험·운영 책임자(대령)는 최근 시뮬레이션에서 인공지능 드론이 적의 미사일을 파괴하라는 명령을 수행하는 과정에서 조종자의 판단이 방해물로 작용하자 조종자를 공격했다는 사례를 학회에서 발표했다.

챗지피티는 생산성 향상을 가져오지만 일찍이 경험하지 못한 가상과 허위, 조작의 시대를 불러올 수 있다. 거짓 정보를 만드는 비용을 0에 가깝게 만들어 가짜가 넘쳐나게 하기 때문이다. 챗지피티 환경에선 사람이 매번 사실과 신뢰성을 검증해야 하지만, 사람은 인지적 태도와 생활습관을 좀처럼 바꾸지 않는다. 인간이 개발한 도구가 인간의 지능 수준을 넘어설 정도로 똑똑하고 강력해져 사람이 그에 압도당할 수 있는 역설적 상황에 처하게 된 것이다.

명령어만 입력하면 완성도 높은 작곡과 그림을 눈깜짝할 새 만들어내는 인공지능은 창작의 문턱을 낮췄지만 예술의 본질과 창의성, 저작권에 대한 근본적 질문을 던졌다. 생성 인공지능으로 인해 강력한 도구가 만인에게 주어진 상황은 사기꾼과 범죄자도 효율적인 목적 실행수단으로 그 도구를 원하는 대로 쓸 수 있게 된다는 걸 의미한다. 인공지능이라는 강력한 도구를 악하지 않은 의도로 사용해도 예상치 못한 재난과 파국에 직면할 수 있는 상황이다. 전문가들이 인류 멸절의 위협을 우려하는 배경이다.

하지만 인류가 생물무기와 인간배아 복제 등을 금지하는 합의를 통해 공동행동을 결정한 것처럼, 기술은 사람이 고민하고 대응하는 만큼 통제할 수 있는 도구이다. 오는 16일 오전 9시 서울 대한상공회의소 국제회의장에서 개최될 제2회 사람과디지털포럼은 인공지능 분야에 관한 국내외 최고 전문가들과 함께, 챗지피티 시대에 인간과 인공지능이 공존할 수 있는 조건에 대한 논의와 고민을 펼친다.

구본권 사람과디지털연구소장 [e-mail]