도덕을 갖춘 인공체를 생각한다

<왜 로봇의 도덕인가>

6월 16일 교양 잠깐독서

왜 로봇의 도덕인가
웬델 월러치·콜린 알렌 지음, 노태복 옮김
메디치미디어·2만1000원

최근 13살 소년으로 설정된 컴퓨터 프로그램 ‘유진 구스트만’이 튜링 테스트를 통과했다. 인공지능(AI)이 사람처럼 생각할 수 있는가를 확인하려 고안된 테스트인데, 64년 만에 뚫렸다. 인공지능의 새 장을 열었다는 탄성, 인간과 기계의 구별이 어려워지는 게 아니냐는 우려가 교차한다. 각본을 잘 짠 대화 프로그램이지, 사람처럼 생각하는 존재에는 터무니없이 못 미친다는 회의론도 거세다.

이 책은 한걸음 더 나가 도덕을 갖춘 인공체의 문제를 다룬다. 인공지능을 넘어 ‘인공적 도덕 행위자’(AMA)로서 로봇을 바라본다. ‘사람처럼 생각한다’는 건 궁극적으로 자유의지에 따른 선택을 포함하며, 선택엔 윤리적 책임이 따른다. 사람처럼 생각하는 존재와 시키는 대로 실행하는 기계 노예를 동시에 욕망할 순 없다.

‘도덕적 인공체’는 실용적 의미도 크다. 미국은 전투 로봇 개발에 거액을 쏟아붓고 있는데, 적절한 행동 규칙을 심는 게 전투 능력 강화보다 시급할 터다. 영화 <그녀>의 인공지능 ‘아만다’에게 연애의 윤리를 들이댈 수도 있겠다. 로봇이 인간을 지배하는 음울한 미래를 차단하기 위해서도 로봇을 도덕적 존재로 만드는 게 필요할지 모른다. 실제 프로그램 개발 과정을 검토하는 대목은 일반 독자에겐 조금 어렵게 느껴질 수도 있겠다.

손원제 기자 [e-mail]