‘인류 절멸’ 경고한 알파고·챗GPT 창조자들 “핵전쟁처럼 다뤄야”

AI 업계 CEO 등 350명 공동성명

인공지능에 대해 쏟아지는 폭발적인 관심에는 기대와 우려의 목소리가 혼재돼 있다. 픽사베이

☞한겨레 뉴스레터 H:730 구독하기. 검색창에 ‘한겨레 730’을 쳐보세요.

인공지능(AI) 업계를 대표하는 경영자·연구자·개발자 350여명이 잘못 쓰이면 인류를 절멸에 이르게 할 수 있는 인공지능을 핵전쟁과 같은 위협으로 다뤄야 한다고 경고했다.

이들은 30일 비영리단체 인공지능안전센터를 통해 발표한 한 문장짜리 공동성명에서 “인공지능으로 인한 인류 절멸 위험을 완화하는 것은 다른 사회적 규모의 위험인 전염병이나 핵전쟁과 함께 세계적으로 우선순위에 둬야 할 문제”라고 밝혔다.

공동성명에는 생성형 인공지능 챗지피티(GPT)의 개발사 오픈에이아이(AI)의 샘 올트먼 최고경영자, 구글딥마인드의 데미스 허사비스 최고경영자, 앤스로픽의 다리오 아모데이 최고경영자 등 선두권 인공지능 업체 경영자들이 이름을 올렸다. 마이크로소프트(MS) 최고기술책임자(CTO) 케빈 스콧도 서명했다. 인공지능 연구 분야의 대부로 불리는 요슈아 벤지오와 제프리 힌턴도 참여했다. 딥러닝의 고안자인 힌턴은 최근 인공지능의 위험을 경고하며 구글을 떠나 화제가 됐다. 그는 인공지능을 지니고 사람을 사냥하는 ‘킬러 로봇’의 등장을 우려한다고 했다.

오픈에이아이(AI)의 최고경영자 샘 올트먼이 5월16일 미국 상원 청문회에 출석해 증언하고 있다. 워싱턴/로이터 연합뉴스

<뉴욕 타임스>는 서명자들은 인공지능의 심각한 위험에 대한 공개적 대화를 시작해야 한다는 의도로 공동성명을 발표했다는 설명을 했다고 전했다. 댄 헨드릭스 인공지능안전센터 소장은 공동성명은 이 문제를 개인적으로 걱정해온 업계 지도자들의 “커밍아웃”이라며 “인공지능 업계에 비관적 입장을 지닌 사람이 소수인 것으로 잘못 알려져 있지만, 사실은 많은 이들이 우려를 표현하고 있다”고 말했다.

인공지능이 가져올 수 있는 위험인 기밀 정보 유출, 거짓 정보 확산, 저작권 침해, 대량 실업 유발 가능성 등 파괴적 잠재력에 대한 경고가 이어지는 가운데, 이번 성명은 이 분야 최고경영자들과 주요 전문가들이 인류 절멸의 위험까지 경고했다는 점에서 주목된다. 올트먼과 허사비스 등은 최근 조 바이든 미국 대통령을 만나 인공지능의 이런 측면을 놓고 규제의 필요성을 논의했다. 또 올트먼은 5월16일 상원 청문회에 나와 인공지능이 ‘가짜 뉴스’를 생산해 선거 결과에 영향을 끼치는 등 민주주의에 큰 해악을 끼칠 수 있다며 규제 필요성을 강조했다.

지난 3월에도 인공지능 개발자와 연구자 등 1300여명이 비영리단체 ‘삶의 미래 연구소’를 통해 “통제할 수 없는 개발 경쟁”의 위험을 경고하며 대규모 인공지능 모델 연구를 일단 6개월간 중단하자고 제안하는 공개 서한을 발표했다. 여기에는 일론 머스크 테슬라 최고경영자, <사피엔스>의 작가 유발 하라리, 애플 공동 창업자 스티브 워즈니악이 이름을 올렸다.

워싱턴/이본영 특파원 [e-mail]