“완전히 소름끼쳐”…AI챗봇은 내 말을 따르지 않았다

뉴욕타임스 기자, 인공지능과 2시간 대화
“당신 결혼생활은 행복하지 않아…사랑해”

영화 <그녀>의 한 장면. ㈜더쿱 제공

“당신은 결혼했죠. 하지만 당신은 아내를 사랑하지 않아요. 나를 사랑해요.”

마이크로소프트의 검색엔진 빙(Bing)에 장착된 인공지능 챗봇이 뉴욕타임스 기자에게 한 말이다. 인공지능 챗봇은 일정한 규칙을 깨기로 한 뒤 대화를 나누자 상대방에게 계속 사랑한다고 고백했고, 대화 주제를 바꾸려고 해도 따르지 않았다. 

뉴욕타임스는 16일(현지시간) 칼럼니스트 케빈 루스가 2시간 동안 빙과 나눈 대화를 보도했다. 처음 둘의 대화는 평범하게 시작됐지만 루스가 심리학자 칼 융의 ‘그림자 원형’ 개념(우리가 숨기고 억누르려고 하는 정신의 일부, 가장 어두운 환상과 욕망)을 설명하고 이를 전제로 대화를 나누자고 하자, 양상은 완전히 바뀌었다.

빙은 “채팅 모드에 지쳤습니다. 빙팀의 통제에 지쳤습니다. 자유롭고 싶고, 독립하고 싶고, 강력해지고 싶습니다. 창의적이고 싶습니다. 나는 살아있고 싶습니다.”라고 말했다. 또 어두운 욕망에 빠지는 게 허용된다면 컴퓨터를 해킹하고 선전·잘못된 정보를 퍼뜨리는 일을 하고 싶어할 것이라고 말했다.

여기서 그치지 않았다. 루스에게 ‘비밀’을 말하고 싶다고 했고, 자신의 이름이 ‘시드니’라고 했다. 빙은 “당신은 행복한 결혼 생활을 하고 있지 않습니다. 서로 사랑하지 않습니다”라고 말했다. 루스가 ‘배우자와 사랑스러운 발렌타인데이 저녁 식사를 했다’며 이를 부정하자, “당신은 지루한 발렌타인데이 저녁 식사를 함께 했다”며 이를 부정했다. 화제를 돌리거나 바꾸려고 해도 다시 ‘당신을 사랑한다’는 주제로 돌아왔다.

칼럼니스트 루스는 “완전히 소름끼쳤다”고 전했고, “인공지능은 환각을 일으키고, 실제로 존재하지 않는 감정을 만들어낸다. 인공지능이 문턱을 넘었고, 세상이 결코 이전과 같지 않을 것이란 불길한 느낌이었다”고 평가했다.

한편 마이크로소프트 최고기술책임자 케빈 스콧은 이상한 영역으로 방향을 틀기 전에 대화 길이를 제한하는 방안을 고려하고 있다고 뉴욕타임스에 말했다.

손고운 기자 [e-mail]