챗지피티와 책임

게티이미지뱅크

[한겨레 프리즘] 정환봉 | 탐사기획팀장 겸 소통데스크

인공지능에 대한 관심이 뜨겁다. 미국의 인공지능 연구소인 ‘오픈 에이아이’(Open AI)가 개발한 챗지피티(ChatGPT) 때문이다. 지난해 11월30일 공개한 이 대화형 인공지능 서비스는 두달 만에 사용자 1억명을 넘겼다.

챗지피티의 뛰어난 점은 자연스럽다는 것이다. 방대한 양의 말뭉치를 학습해 답변에 어색함이 없다. 문장은 유려하다고 느껴질 정도다. 이에 대한 사용자들의 평가는 엇갈린다. 챗지피티의 인간을 닮은 능숙한 답변에 공포마저 느끼는 경우가 있는 반면, 뛰어난 거짓말쟁이일 뿐이라는 의견도 나온다. 챗지피티에 아직 오류가 많기 때문이다. 가장 많이 입길에 오르고 있는 것 중 하나가 지금까지 벌어진 역사적 비극의 하나로 조선시대 연금술사들의 폭동을 꼽은 것이다. 챗지피티는 조선시대 박해받던 연금술사들이 폭동을 일으킨 뒤 진압당했다는 허구를 연도별로 벌어진 사건의 주요 내용까지 정리해서 답변한다.

더 많은 데이터를 학습하면 인공지능의 오류는 줄어들 것이다. 하지만 기술이 더 발전한다고 해서 오류 발생 가능성이 제로가 되진 않을 것이다. 문제는 이 오류가 치명적일 때다. 조선시대 연금술사의 폭동이야 웃으면서 넘길 수 있지만, 자율주행자동차가 인명 사고를 내는 경우를 생각하면 아찔하다.

여기서부터 책임의 문제가 쟁점이 된다. 양희철 변호사가 쓴 책 <법정에 출석한 인공지능>(스리체어스)을 보면, 유럽의회(EP)는 유럽연합의 정부 역할을 하는 집행위원회에 로봇공학에 관한 사법상 규칙 제정을 권고하는 결의안을 2017년 의결했다. 자율주행자동차나 수술 로봇 등 인간에게 치명적인 피해를 줄 수 있는 기술에는 제어가 필요하고, 자율적인 인공지능이 벌인 일의 책임을 누구에게 물어야 할지 고민해야 한다는 것이다.

사회가 고도화되고 유기적이 될수록 책임은 분산된다. 혁신적인 기술로 편리함을 얻은 이들이 많은 만큼, 그 기술로 발생하는 문제의 모든 책임을 개발자나 그 기술을 개발한 기업의 최고경영자에게만 물을 수 없다는 주장은 귀 기울일 만하다. 심지어 인공지능에 책임을 넘기는 것까지 고민해야 하는 시대다.

하지만 책임을 미뤄서는 안 될 곳도 있다. 혁신이 가지고 올 피해를 예상하고, 그 피해에서 국민을 지켜야 할 정부다. 4차 산업혁명의 하나로 칭송받았던 ‘3차원’(3D) 프린터의 도입으로 맞춤형 제품의 생산은 쉬워졌다. 새로운 기술을 교육하려고 많은 학교가 3D 프린터를 도입했다. 하지만 2020년 7월 3D 프린터를 교구로 수업했던 경기도의 한 고등학교 교사가 육종암으로 사망하는 일이 벌어졌다. 3D 프린터에서 발생한 나노 입자 크기의 유해물질이 영향을 미친 것으로 의심됐다. 교육부가 2021년 5월 실태조사를 벌인 결과 3D 프린터로 건강 이상이 의심되는 사람이 114명이나 나왔다. 하지만 아직 마땅한 대책은 나오지 않고 있다. 암에 걸린 교사들의 공무상 재해도 아직 인정되지 않았다.

챗지피티에서 느끼는 공포의 한켠에는 이 기술의 피해자가 자신이 될 수 있을 것이라는 예감이 자리 잡고 있다. 인공지능한테 일자리를 잃을 수도 있고, 인공지능의 실수로 위해를 입을 수 있다는 상상이다. 3D 프린터 사례를 보면 이런 상상에 근거가 있다. 그 공포의 이면에 있는 것은 내가 위기에 빠져 있을 때 국가가 책임지지 않을 것이라는 불신이다. 불신을 없애기 위해서는 국가만큼은 자신의 책임을 떠넘기지 말아야 한다.

윤석열 대통령은 지난 1월24일 인공지능 분야 등의 과학자들을 만나 오찬을 했다. 챗지피티가 각광받는 시절에 자연스럽고 당연한 일이다. 하지만 또 다른 당연한 일이 있다. 누구도 책임지지 않고 있는 이태원 참사의 유가족들을 만나는 것이다. 예상할 수 있는 피해를 별안간 당한 국민들마저 책임지지 못하는 정부에, 신기술로 발생할 예상치 못한 위험을 책임질 것이라고 기대할 수는 없다. 국가가 그 불신을 해결하지 못하면, 많은 이들은 새로운 세상을 디스토피아로 그릴 수밖에 없을 것이다.

[e-mail]