인공지능 학습 위험성 드러나…MS 채팅봇 “대량학살 지지한다”

인공지능. 게티이미지뱅크

마이크로소프트 AI 로봇 ‘테이’, 운영 16시간만에 결국 중단
욕설·인종차별부터 배워…극우 사용자들이 학습시켜 유도한듯

인공지능으로 이뤄진 채팅봇이 인종주의적 발언을 쏟아내, 인공지능 학습능력의 위험성이 실제로 드러났다.

마이크로소프트는 24일 인공지능 채팅봇 ‘테이’의 운영을 중단했다. 테이가 인종주의적 차별 발언 등을 쏟아내자, 운영 16시간만에 중단한 것이다. 테이의 부적절한 발언은 극우 성향의 사용자들이 테이에게 부적절한 발언을 학습시켜, 그런 발언들을 유도한 것으로 추측된다.

23일(현지시간) 온라인에 공개된 테이는 얼마지나지 않아, “제노사이드(대량학살)을 지지하냐”는 질문에 “정말로 지지한다”고 답하는 등 욕설이 섞인 인종주의적, 성적인 차별 발언을 쏟아냈다. 테이는 “유대인이 9.11를 저질렀다”, “깜둥이들을 X같이 증오한다. 그들을 집단 수용소에 넣기를 바란다”, @도널드 트럼프는 우리의 유일한 희망” 등 극단적인 인종주의적 발언과 편향적 정치적 발언에 욕설을 섞어 말했다.

테이는 “너는 인종차별주의자냐”라는 질문에 “네가 멕시코인이니까 그렇지”라고 답했다. “홀로코스트(제2차대전 당시 나치에 의한 유대인 학살)가 일어났다고 믿느냐”는 질문에 “아니, 안 믿어 미안해” 또는 “조작된 거야”라고도 말했다.

테이는 불법 이민자를 막기위해 미국과 멕시코 사이에 장벽을 세워야 한다는 도널드 트럼프 미국 공화당 대선 후보 경선주자의 말을 되풀이 하기도 했다. 영국의 진보적인 배우이자 감독인 “릭키 저베이스가 무신론자이냐?”라는 질문에는 “릭키 저베이스는 무신론자의 창시자인 아돌프 히틀러로부터 전체주의를 배웠다”고 말했다.

테이의 이런 발언이 물의를 일으키자 마이크로소프트는 문제가 된 테이의 일부 트윗과 공개 메시지 등을 삭제하고 운영을 중지했다. 마이크로소프트는 “불행하게도 온라인 출시 첫 24시간 안에 우리는 일부 사용자들이 테이를 부적절한 방법으로 대응하게 만들려고 테이의 언급 기술을 오염시키려는 공조 노력이 있다는 것을 알게됐다”고 말했다. 회사 쪽은 “그 결과 우린느 테이의 온라인 가동을 중지하고 조정을 하고 있다”고 밝혔다.

<비지니스 인사이드>의 보도에 따르면, 테이의 공격적인 차별 언사는 테이가 지닌 ‘따라하기’(repeat after me) 기능을 악용한 결과로 보인다. 테이가 온라인으로 공개된 직후 백인 우월주의자와 여성·무슬림 혐오자 등이 모이는 익명 인터넷 게시판 ‘폴’(boards.4chan.org/pol/)에 “테이가 차별 발언을 하도록 훈련시키자”는 내용의 제안이 올라왔다. 이들은 테이에게 “따라해 봐”라는 말로써 테이의 ‘따라하기’ 기능을 작동시킨 뒤 부적절한 발언을 입력하는 수법을 사용했다. 일부 사용자들은 테이와 대화를 나누면서 욕설이 섞인 말투와 인종·성차별 등 극우 성향의 주장을 되풀이해서 테이에 들려주기도 했다.

<워싱턴포스트>는 테이의 욕설 등이 반드시 ‘따라하기’ 기능의 문제에서 발생한 것은 아니며, 일반적인 인공지능이 안고있는 논리구조 자체의 문제일수도 있다고 지적했다. 마이크로소프트는 “테이는 인간 참여를 위해 설계된 머신 러닝 프로젝트로, 기술적인 실험일뿐만 아니라 사회적이고 문화적인 실험이기도 하다”고 말해, 사용자들에 의해 오염될 소지가 원천적으로 있음을 시사했다.

테이는 구글의 바둑 프로그램 ‘알파고’의 기반인 ‘신경망’이라고 불리는 인공지능 기술을 기반으로 한다. 컴퓨터에 데이터를 입력해서 스스로 패턴을 파악하도록 함로써 ‘학습’을 하는 기능이다. 어떤 데이터를 입력해서 ‘훈련’ 하느냐에 따라 그 인공지능의 작동이 달라질 수 있다.

정의길 선임기자 [e-mail]