챗GPT 오남용 막자, 세계는 ‘규제중’…“개발 멈추자” IT업계 성명까지

중·러·이탈리아 등 ‘사용 중지’
본토 미국서도 규제안 마련 나서

미국의 오픈에이아이(AI)가 내놓은 생성형 인공지능 챗지피티(GPT). DPA

미국 빅테크 기업 마이크로소프트가 ‘오픈에이아이(AI)’와 연합해 생성형 인공지능 ‘챗지피티(GPT)’를 내놓자, 이 새로운 변화가 인간 생활에 미치게 될 영향에 대해 각국이 촉각을 곤두세우고 있다. 서구 민주주의 국가들 가운데 이탈리아가 무단 정보 수집 등을 이유로 사용을 일시 중지했고, 미국도 규제를 위한 의견 수렴에 나섰다.

최근 미국 상무부 산하 국가통신정보관리청(NTIA)은 11일(현지시각) 앞으로 60일 동안 인공지능 시스템 규제안에 대한 여론을 수렴한다고 밝혔다. 앨런 데이비슨 청장은 이날 피츠버그대학에서 열린 기자회견에서 “재무 감사가 기업 재무제표의 정확성에 대한 신뢰를 만든 것처럼 인공지능에 대한 책임 메커니즘은 이 시스템의 신뢰성을 보장하는 데 도움이 될 수 있다”며 “인공지능 기술이 매우 빠르게 움직이는 만큼 우리도 빠르게 움직여야 한다”고 말했다. 인공지능 시스템이 애초 의도와 달리 인간 생활에 문제를 일으키지 않도록 서둘러 규제 방안을 찾겠다는 뜻을 분명히 한 것이다.

지난해 11월 말 챗지피티가 공개된 뒤 중국·러시아·이란 등 권위주의 국가에선 이 프로그램이 몰고 올 사회적 여파를 우려해 사용을 금지했다. 민주 국가들 가운데 처음 규제의 칼날을 빼 든 것은 이탈리아였다. 이탈리아 데이터 보호 당국은 지난달 31일 오픈에이아이가 개인정보 보호 기준을 충족하고 만 13살 이하 미성년자를 보호하는 대책을 20일 내에 내놓으라며 이 시스템의 사용을 일시 금지했다. 이후 영국·오스트레일리아·유럽연합(EU) 등으로 규제 움직임이 확대되는 중이다.

일상 곳곳 ‘AI 활용’ 편리함 뒤로
정보 유출·오답 등 부작용 쏟아져

인공지능과 관련한 기술 경쟁은 지난해 11월 말 마이크로소프트와 손잡은 오픈에이아이가 챗지피티를 공개한 이후 불이 붙었다. 말을 걸면 사람이 응답하듯 답을 내놓은 이 시스템의 능력에 전세계가 놀랐다. 그와 동시에 이 프로그램을 어디까지 활용해야 하는지, 인간의 일자리를 빼앗진 않을지, 민감 정보가 유출되진 않을지, 비윤리적인 응답으로 사람에게 악영향을 일으키진 않을지 등 다양한 우려가 나오는 중이다.

당장 발등에 불이 떨어진 것은 ‘기업 기밀’ 유출을 우려하는 글로벌 기업들이다. 업무에 도움을 받으려 챗지피티에 섣불리 질문을 입력했다가 민감한 기밀이 오픈에이아이 쪽에 그대로 넘어갈 수 있다. 그 때문에 삼성전자는 이달 초 사내 게시판에 챗지피티 오남용에 대해 주의를 환기하는 메시지를 공지하고 사용 범위 등을 교육한 것으로 알려졌다. 미국 <블룸버그>는 제이피(JP)모건체이스, 시티그룹, 도이체방크, 골드만삭스 등도 인공지능 챗봇 사용을 제한했다고 전했다.

빅테크 기업 간의 경쟁이 치열해지며 우려스러운 모습도 확인되는 중이다. 최근 실적 악화로 인한 대량 감원의 여파로 회사마다 인공지능의 윤리와 관련된 부서가 크게 줄거나 사라졌다. 마이크로소프트는 30여명 규모였던 인공지능 윤리팀을 단계적으로 축소해 지난달 해체했고, 구글·메타도 최근 윤리팀원들을 해고했다.

한쪽에선 부작용을 우려하며 개발을 잠시 멈추자는 의견을 내놓고 있다. 미국의 비영리단체 삶의 미래 연구소(FLI)는 지난달 22일 “인공지능 기술의 발전 속도가 지나치게 빨라 오남용으로 인한 부작용이 우려된다”며 “개발을 최소 6개월가량 중단하고, 독립적인 외부 전문가의 감독 아래에서 ‘안전 프로토콜’을 만들자”고 주장했다. 이 성명에는 일론 머스크 테슬라 최고경영자(CEO), 스티브 워즈니악 애플 공동창업자, 유발 하라리 예루살렘히브리대 교수 등이 이름을 올렸다.

최민영 기자 [e-mail]