킬러로봇, 핵무기 통제 AI…유엔, 국제 안보 위험 논의한다

안보리, 인공지능 전문가 회의 개최

유엔이 인공지능이 제기하는 안보 문제를 논의할 전문가 회의를 개최하는 등 인공지능 문제에 본격 대응할 움직임을 보이고 있다. 생성형 인공지능 서비스인 챗지피티(GPT)를 사용하는 모습. 다름슈타트/dpa 연합뉴스

챗지피티(GPT) 등 생성형 인공지능(AI) 이용이 크게 늘고 있는 가운데 인공지능이 국제 안보에 끼칠 위험에 대응하기 위한 유엔 차원의 움직임이 본격화하고 있다.

이달 초 유엔 안전보장이사회(안보리)의 새 의장국을 맡게 된 영국이 주도하는 인공지능 위험 대응 전문가 회의가 오는 18일 열릴 예정이라고 <에이피>(AP) 통신이 3일(현지시각) 보도했다. 바버라 우드워드 유엔 주재 영국 대사는 이날 이런 내용의 회의 개최 사실을 발표하면서 국제 평화와 안보 문제에 인공지능이 끼칠 위험을 전문가들과 논의할 예정이라고 말했다. 이 회의는 인공지능을 활용한 자동 무기(이른바 킬러 로봇) 문제와 인공지능이 핵무기를 관리할 경우 발생한 위험 등에 대한 전문가들의 의견을 수렴하는 자리가 될 것으로 알려졌다.

안토니우 구테흐스 유엔 사무총장도 이 회의에 참석해 인공지능의 잠재적 위험에 대해 경고할 예정이다. 구테흐스 사무총장은 최근 “과학자들과 전문가들은 인공지능이 핵전쟁 위험에 버금하는 실존적 위협을 인류에 제기하고 있다면서 세계에 행동을 촉구했다”고 지적했다. 이어 유엔이 취할 수 있는 대응을 준비할 인공지능 관련 자문단을 오는 9월 중 구성할 것이라는 계획도 발표했다. 구테흐스 사무총장은 또 국제원자력기구(IAEA)처럼 전문 지식을 바탕으로 규제 권한을 행사하는 인공지능 관련 유엔 기구 구성 문제에도 적극적으로 대응할 것이라고 밝혔다.

우드워드 대사는 영국은 “인공지능이 우리 모두에게 제시하는 엄청난 기회와 위험을 관리하기 위한 다자 접근법”을 촉진하기를 희망한다며 이를 위해선 “전세계적인 노력이 필요하다”고 지적했다. 그는 인공지능이 유엔의 개발 프로그램을 돕고 인도주의 지원 사업을 개선하며, 선진국과 개도국의 격차를 줄이는 데도 도움을 줄 잠재력이 있다고 강조했다. 하지만 이와 동시에 심각한 안보 문제도 제기한다고 덧붙였다.

전문가들은 인공지능 기술이 개인의 민감한 정보 수집 및 감시 활동에 활용돼 인권을 침해할 위험이나 인공지능을 활용한 자동 무기의 고도화와 확산 위험 등을 특히 우려하고 있다. 챗지피티 개발 업체인 오픈에이아이의 샘 올트먼 최고경영자는 지난 5월 미국 상원 청문회에 참석해 최첨단 인공지능 시스템에 대한 허가 권한을 지니는 미국 정부 기구 또는 국제 기구 구성을 제안한 바 있다고 <에이피>는 지적했다.

인공지능 규제 움직임은 현재 유럽연합(EU)이 가장 적극적으로 나서고 있다. 유럽연합의 입법 기관인 유럽의회는 지난달 14일 인공지능 규제법안을 통과시킨 뒤 유럽연합 집행위원회, 회원국 정부들과 최종안 마련을 위한 협상에 들어갔다. 유럽의회가 통과시킨 법안은 인공지능 기술을 이용한 실시간 안면 인식 금지 등의 개인 정보 보호 방안, 고위험 인공지능 시스템의 사용 범위 규제 방안 등을 담고 있다.

신기섭 선임기자 [e-mail]