인간 통제 밖 ‘킬러 로봇’이 온다는데…

폭발물 탐지 로봇

‘공격 직접결정’ 자동무기 시스템
‘원격조종’ 드론보다 한발 더 진화
개발 한창…“10년새 실용화” 주장

도덕적 쟁점·국제규범 검토 못끝내
민간인 희생 우려 국제적 반대운동

영화 <터미네이터 2>(1991년)가 큰 인기를 얻었던 것은 액체처럼 자유롭게 모습을 바꾸는 악당 로봇(T-1000)을 완벽하게 표현한 시각효과 덕도 있겠지만, 관객들의 윤리 기준을 절묘하게 만족시킨 ‘터미네이터’ 로봇 덕이 컸다. 영화 속 주인공이 ‘킬러 로봇’에게 “절대 사람을 죽이면 안 된다”는 지침을 내리자, 기계가 우직할 만큼 이를 완벽하게 따랐기 때문이다.

머잖아 등장하게 될 킬러 로봇들도 그런 원칙을 지킬 수 있을까? 영국 <비비시>(BBC) 방송은 4일 킬러 로봇들이 인간을 대신해 전쟁을 하는 시대가 예상보다 빨리 도래할 수 있다며 그에 따라 불거질 수 있는 다양한 윤리적·법적 문제를 다룬 심층 기사를 내놓았다. 킬러 로봇이라 불리는 ‘자동무기 시스템’이란 어떤 물체를 적으로 인식해 공격할지 로봇이 직접 결정해 시행하는 장치로 지상에 위치한 요원이 원격 조종을 하는 무인공격기(드론)보다 한발 더 진화한 무기다. 현재 미국 해군이 개발중인 스텔스 기능을 갖춘 무인 함재기 ‘X-47B’가 대표적인 예다.

영국 셰필드대학에서 로봇공학과 인공지능을 가르치는 노엘 샤키 교수는 최근 영국 일간 <가디언> 인터뷰에서 “이런 무기들은 공상과학(SF) 소설이 아니라 실제 개발이 이뤄지고 있는 것들이다. 앞으로 10년 안에 실용화될 수 있다”고 말했다. 그가 우려하는 것은 이런 무기들이 도덕적인 쟁점이나 국제 규범에 대한 검토 없이 너무 빨리 개발되고 있다는 점이다. 이를테면 현재 포로에 대한 처우를 다룬 제네바 협약 36조에선 새로운 무기는 그것이 전투원과 민간인을 구분할 수 있는지에 대한 고려를 해야 한다고 못박고 있다. 그러나 현재 사탕을 든 아이와 총을 든 남자를 구별할 수 있을 정도로 뛰어난 성능을 가진 로봇은 없다. 샤키 교수는 “현재로서는 사람과 차를 구분하도록 애를 쓰는 수준”이라고 말했다.

반론도 만만치 않다. 로봇이 투입되면 불필요한 인명 피해를 줄일 수 있고, 전쟁에 관한 국제법이나 교전수칙을 지키도록 성능을 개선하는 것도 가능하다는 것이다. 로널드 아킨 미국 조지아공과대학 교수는 “윤리적인 로봇 시스템을 도입함으로써 전쟁터에서 발생하는 민간인들의 희생을 줄일 수 있다”고 말했다.

킬러 로봇에 대한 규제가 필요하다는 국제적인 운동은 이미 시작됐다. 국제인권단체 ‘휴먼라이츠워치’는 지난해 11월 “기계에게 누가 살아야 하고, 누가 죽어야 하는지 결정하게 하는 것은 지나친 일이다. 이 시스템들을 인간의 통제 아래 둬야 한다”는 보고서를 냈다. 4월 영국 하원에서는 킬러 로봇에 반대하는 ‘스톱 더 킬러 로봇’ 캠페인이 시작된다. 이 운동에는 대인지뢰금지조약을 이끌어 내 1997년 노벨 평화상을 수상한 조디 윌리엄스 등 저명한 평화활동가들이 대거 참여할 예정이다. 윌리엄스는 <비비시> 인터뷰에서 “우리는 자동무기 시스템이란 중립적인 용어보다 킬러 로봇이란 말을 써야 한다. 인명 살상용 로봇의 전면 금지를 목표로 전세계적인 반대 캠페인을 펼쳐갈 것”이라고 말했다.

길윤형 기자 [e-mail]

<한겨레 인기기사>

■ 박 대통령 화난 듯 ‘부르르’…시종일관 불만 드러내
■ 노회찬 “안철수, 내게 양해구한 것처럼 각본”
■ 조윤선 장관 후보 “5·16 평가할만큼 공부 안됐다”
■ 새학기 망상 경험하면 큰일… ‘조현병 의심’
■ WBC ‘경우의 수’ 등장…반전은 있다?