컴퓨터도 마음을 가질 수 있다

매트릭스로 철학하기

[함께하는 교육]
매트릭스로 철학하기 3. 인공지능과 인류의 미래
▶다음 책 <슬픈 열대>

■ 책 소개

<매트릭스>는 1999년 개봉한 공상과학 영화다. 파격적인 특수효과, 화려한 액션이 눈요깃감이다. 그러나 이런 요소로 관심을 끈 영화는 많았다. 컴퓨터가 인간을 지배한다는 것도 할리우드 공상과학 영화의 상투적 스토리다.

그런데도 <매트릭스>는 많은 영화 가운데 거의 유일하게 철학자들의 관심을 끌었다. <매트릭스> 안에는 포스트모더니즘·인식론·존재론·인지과학·인공지능·실존주의·마르크시즘·불교·기독교·허무주의 등이 녹아 있다.

이런 주제는 일반인들에게 너무 어렵고 따분하다. <매트릭스>는 사람의 귀를 잡아끄는 방식, 만화책이나 비디오게임 같은 방식으로 이 무거운 걸 얘기한다. <매트릭스>는 액션 활극 영화의 외피를 뒤집어쓴, ‘인간의 의식에 관한 학위 논문’이라고 할 수 있다.

---

■ 풀무질

세계 체스 챔피언을 이겼던 컴퓨터 ‘딥블루’. 시그마

1997년 5월7일 뉴욕에서 컴퓨터와 인간의 체스 게임이 벌어졌다. 컴퓨터는 세계적 정보통신 기업 IBM이 만든 ‘딥블루’, 인간은 당시 34살로 세계 체스챔피언이었던 가리 카스파로프였다. 카스파로프는 22살 때인 1985년 최연소로 왕좌에 올라 ‘체스 신동’으로 불렸던 인물이었다.

전세계 수백만명이 이 경기를 지켜봤다. 카스파로프는 한창 경기에 열중하다 뼈아픈 실수를 했고, 딥블루는 이 기회를 놓치지 않았다. 그대로 몰아붙여 경기 시작 1시간, 19수 만에 카스파로프를 포기하게 만들었다.

그 뒤로 컴퓨터가 프로 체스 선수들은 이기는 건 흔한 일이 됐다.

컴퓨터가 체스에서 인간을 이기자, 1949년 이래 컴퓨터의 선구자 앨런 튜링이 추구해 왔던 ‘생각하는 기계’(Thinking Machine)가 실현되는 듯했다.

그러나 일부 과학자들은 반박했다. “컴퓨터가 지능은 있어도 지성은 없다!”

그러나 과연 그럴까? 컴퓨터는 우리가 할 수 있는 일을 할 수 있는가? 그렇다. 인공마음은 가능한가? 그렇다. 그렇다면 무슨 차이가 있을까?

예를 들어 당신이 뇌에 손상을 입었다고 가정해 보자. 당신은 고통을 느낄 수 있는 능력을 잃는다. 고통은 몸에 뭔가 이상이 생겼다는 걸 알려준다. 끓는 물에 손을 담그고도 아무런 고통을 느끼지 못해 손을 빼지 않는다면? 손은 심한 화상을 입을 것이다.

한데 만약 마치 진짜 고통스러운 것처럼 느끼게 하는 인공 ‘통증 유발기’가 있다면? 현대 과학은 이미 손상된 신경세포 집단을 대체하는 기술을 개발하고 있다. 통증 유발기는 실현 가능성이 분명하다.

마음과 마음의 모조품을 구분할 수 있을까?

통증 유발기에서 더 나아가 우리가 매일 잃어버리는 단일 신경세포를 아주 작은 마이크로프로세서가 대체하는 것도 생각해 볼 수 있다. 만약 신경 세포 하나하나를 대체해서 내 두뇌를 ‘인공화한다면’ 어디까지가 진짜 마음이고, 또 어디에서부터 마음의 모조품이라고 말할 수 있겠는가?

<매트릭스>를 보자. 컴퓨터들은 프로그램되어 있는 것만을 실행한다는 게 그들이 창조적일 수 없다는 것을 의미하지 않는다. 창조성은 프로그램화할 수 있다. 딥블루가 체스를 두는 것을 보면 분통이 터질 정도로 창조적이다. <매트릭스>의 기계들은 매트릭스를 창조하고 요원들을 그들의 대리인으로 설계했다. 그렇다면 누가 그 기계들의 프로그램을 짰는가? 바로 그들이다. 그들 스스로 프로그램을 짠 것이다.

매트릭스를 만든 존재가 아무리 지능적이고 창조적으로 보여도 그들에겐 생명이 없는 반면 우리에겐 생명이 있다는 결정적인 차이가 있다고 반문할 수 있다.

그러나 매트릭스를 만든 존재들은 자율적인 존재일 뿐만 아니라, 자기 복제를 하고 있다. 그런 면에서 그들도 생명을 가지고 존속한다.

만약 내가 빨간색을 본 적이 없다면 나는 빨간색을 본다는 게 어떤 것인지 상상할 수 없을 것이다. 그러나 그것이 빨간색의 경험들은 뇌의 상태가 아니라는 의미가 아니다. 그것은 그저 내가 그러한 뇌의 상태를 가져보지 못했다는 것을 의미한다.

내가 “아야!”라고 말하는 것은 나의 뇌의 미시 물리학적 성질 때문이다. 그렇다면 나의 고통은 나의 “아야!” 하고 말하는 경향 때문이 아니라 오히려 나의 두뇌의 특정한 상태 때문에 발생하는 것이라 할 수 있다. 나의 뇌의 상태가 그렇게 말하도록 만든다. 이는 유물론으로 뇌의 상태가 곧 정신 상태라는 관점이다.

뇌의 상태가 곧 정신 상태다

철학의 가장 기본적인 질문 가운데 하나가 ‘마음의 본질은 무엇인가’다.

<매트릭스>는 환원적 유물론을 견지한다. 환원적 유물론은 ‘마음의 상태가 육체적 상태로 환원될 수 있다’ 혹은 ‘육체의 견지에서 설명될 수 있다’, ‘육체와 같다’고 보는 관점이다. 즉 마음의 상태란 뇌의 상태에 불과하다.

모피어스는 환원적 유물론자다. 모피어스는 네오에게 이렇게 묻는다. “실재라는 게 뭐지? 실재를 어떻게 정의하지? 촉각, 후각, 미각, 시각, 뭐 이런 걸 말하는 거라면 실재라는 건 그저 자네의 뇌가 해석하는 전자 신호일 뿐이야.”

예를 들어 우리는 어떻게 나무를 볼까?

빛이 태양으로부터 내려와 빛의 파장 일부는 나무에 의해 흡수되고 일부는 반사된다. 반사된 빛 일부가 눈에 들어오면 그 빛 속의 에너지가 눈의 망막에 있는 세포를 자극한다(세포들에 전이된다). 그 에너지는 계속 길(시신경)을 따라가서 뇌의 중심에 도착한다. 그러면 몇 개의 신경 세포가 특정한 양식으로 발화하고, 나무를 보게 된다.

이 설명의 핵심은 나무를 보는 건 그저 일정한 자극이 야기하는 뇌의 상태라는 것이다. 만약 실제로 나무가 없다 해도 우리가 뇌의 상태를 그렇게 만들어낼 수 있으면 마찬가지로 우리는 나무를 보고 있다고 생각할 수 있고, 거기에 진짜 나무가 있든 없든 우리의 경험에는 아무런 차이가 없다는 뜻이다.

정말 중요한 것은 우리가 ‘나무’를 볼 때와 같은 뇌의 상태를 가지고 있느냐 그렇지 않으냐다. 그러한 뇌의 상태를 가질 때마다 우리는 나무를 볼 것이다.

---

■ 마치질

“미래는 사람을 필요로 하지 않는다”

하버드대 출신 수학 천재 시어도어 카진스키

빌 조이는 세계적 정보통신(IT)기업 선마이크로시스템스의 공동 창립자이자 프로그래밍 언어인 자바 개발에 결정적인 구실을 한 사람이다. 그 누구보다 과학과 물질적 진보에 대한 신념이 굳건했지만 어느 순간 생각이 180도 바뀌었다.

그는 지난 2000년 4월 미국의 컴퓨터 잡지 <와이어드>에 ‘미래는 왜 우리들을 필요로 하지 않는가?’란 글을 써 파문을 일으켰다.

그의 생각이 바뀌게 된 계기는 “기술 발전으로 미래에 인간은 로봇이 되거나 로봇과 융합될 것”이라는 미국의 컴퓨터 과학자 레이 커즈와일의 말이었다.

조이는 특히 유전자·나노·로봇 공학이 인류 자체를 위험한 존재로 만들 수 있다고 생각하게 됐다.

조이는 “과학기술 발전이 인류를 멸망시킬 것”이라며 폭탄 테러를 벌였던 하버드대 출신 수학 천재 시어도어 카진스키(사진)의 주장에 공감했다. 카진스키는 기술 발전을 막기 위해 1978~1995년 과학자를 상대로 소포폭탄을 보내 3명을 죽이고 23명을 다치게 만들었다. 카진스키는 주로 대학과 항공사에 근무하는 과학기술자를 공격해 대학(University), 항공사(Airline)와 폭파범(Bomber)의 조합(Un+A+Bomber)인 ‘유나바머’로 불렸다.

카진스키는 자신의 이론을 정리한 이른바 ‘유나바머 선언문’에서 다음과 같이 주장했다.

“모든 일을 인간보다 더 유능하게 잘할 수 있는 지능적 기계를 개발하면 모든 일은 기계가 다 하게 될 것이다. 어느 순간 인류는 기계들에 너무 의존하게 돼 기계가 내리는 모든 결정을 받아들이는 수밖에 없게 되고, 결국 아무 실질적 선택권도 가지지 못하는 상황에 이를지 모른다. 기계의 판단이 사람의 판단보다 더 낫기 때문이다.

시스템을 움직이는 데 필요한 결정들이 너무 복잡해져서 사람은 올바른 결정을 내릴 수 없는 단계가 올지도 모른다. 그러면 인간은 기계를 꺼버릴 능력도 없게 될 것이다. 기계 의존도가 너무 커 기계를 끄는 건 곧 자살 행위가 될 테니까 말이다.”

우리보다 뛰어난 능력을 가진 로봇이 출현한다면 ‘자연 진화의 법칙’에 따라 인간은 살아남지 못할 것이다.

조이는 유전자·나노·로봇 공학의 위력은 엄청나지만 통제는 너무나 느슨하다는 점을 지적했다. 핵무기 같은 이전의 대량살상 무기들은 국가 통제 밑에 있었지만 새 기술은 개인과 소규모 집단이 쉽게 접근할 수 있다. 또 상업적 용도가 강해, 거의 대부분 기업들이 개발하고 있다.

조이는 “내 개인적 경험에 의하면 인간은 자신의 계획 능력을 너무 과대평가하는 경향이 있다”고 비판했다.

인간복제 같은 기술은 심각한 윤리·도덕적 문제가 있다. 예를 들어 유전자 공학의 힘을 이용해 우리 자신을 다시 설계해서 여러 수준의 평등하지 않은 개체들을 만들어 낸다면 민주주의 근본 바탕이라고 할 수 있는 평등이 위협받게 될 것이다.

1945년 왜 원자폭탄이 떨어졌을까?

물리학자 프리먼 다이슨은 “원자폭탄이 떨어졌던 이유는 이에 대해 어느 누구도 안 된다고 말할 수 있는 용기나 선견지명을 갖고 있지 않았기 때문이다”라고 비평했다. 조이는 “내가 보기에 유일한 현실적인 대안은 특정 종류의 지식 추구에 제약을 둠으로써 너무 위험스러운 기술의 발전을 제한하는 것”이라고 주장했다.

---

■ 담금질

“미래엔 인간과 로봇을 구분할 필요 없다”

지난 2월 미국 <에이비시>(ABC) 방송의 퀴즈쇼 ‘제퍼디’ 최종전 모습. 가운데가 컴퓨터 ‘왓슨’ 자리.

지난 2월 미국 <에이비시>(ABC) 방송의 인기 퀴즈쇼 ‘제퍼디’(Jeopardy)에서 아이비엠(IBM)이 만든 슈퍼컴퓨터 ‘왓슨’이 2명의 인간 퀴즈 달인을 압도적으로 이겼다.

모두 세차례의 라운드에서 왓슨은 7만7140달러의 상금을 얻었다. 제퍼디 퀴즈쇼 74회 연속 우승자인 켄 제닝스는 2만4000달러, 역대 최다 상금 수상자인 브래드 러터는 2만1600달러를 따는 데 그쳤다. 주목할 만한 건 왓슨이 은유적인 표현과 말장난을 담고 있는 질문을 이해했다는 점이다. 즉 이 컴퓨터는 인간과 같은 방식으로 사고하고 소통했다.

이번 퀴즈쇼 우승으로 컴퓨터가 단순히 계산 도구에 그치지 않고 인간의 언어로 된 질문을 이해하고 해답을 내놓는 수준에 이르렀다는 점이 드러났다.

미국 오리건주립대 투수였던 롭 서머스는 지난 2006년 사고를 당한 뒤 치료 불가 판정을 받았다. 그러나 이제 약간이나마 걸을 수 있게 됐다.

로스앤젤레스 캘리포니아주립대(UCLA)와 루이빌대 공동연구팀은 지난 5월19일 “뇌가 아닌 외부에서 신호를 보내는 방식으로 하반신 마비 환자의 치료를 돕는 획기적인 방법이 마련됐다”고 서머스한테 적용한 방법을 공개했다.

기적의 비결은 ‘컴퓨터를 이용한 전기신호 자극’이었다. 팔다리는 뇌가 신경을 통해 보낸 명령(신호)이 척수로 전달돼 움직인다. 대부분 신체마비는 이 신호체계 손상으로 일어난다. 연구팀은 뇌의 역할을 컴퓨터가 대신하게 만들었다. 컴퓨터를 척수에 연결해 반복적으로 전기 자극을 계속 보내 척수가 이를 뇌의 명령으로 인식하도록 해 마비된 근육을 움직이게 하는 것이다.

cybernetic과 organism의 두 단어를 합성하여 만든 사이보그라는 말이 있다. 사이보그는 두뇌 이외의 부분, 수족·내장 등을 교체한 개조인간을 말한다. 그러나 루이빌대 연구는 거꾸로다. 두뇌는 컴퓨터고 다른 신체는 원래 인간의 것이다.

대부분의 사람들은 이런 새로운 인류가 큰 윤리적 문제를 만들 것으로 본다. 그러나 미국의 컴퓨터 과학자 레이 커즈와일은 전혀 그렇지 않다고 생각한다.

그는 앞으로 기계처럼 우리도 지식을 내려받기할 수 있게 될 것이며, 컴퓨터의 언어인식 능력이 상당히 발전하면 거꾸로 기계가 지식을 공유할 수 있다고 본다. 따라서 2040년에는 생물학적 기원은 가지고 있지만, 생물학적 사유 과정과 전자적 사유 과정이 혼합되어 긴밀하게 작동하는 정신적 프로세스를 가진 존재를 보게 될는지 모른다고 내다본다.

커즈와일은 “2050년에 이르면 사고의 용량은 비생물학적이 될 것”이라며 “비생물학적 부분 역시 인간의 사고에서 발생하기 때문에 여전히 인간의 사고가 될 것”이라고 단언한다.

즉 그의 논리에 따르면, 기계의 지능과 인간 지능 사이의 분명한 구별은 사라진다.

---

■ 벼리기

아래 논제를 읽고 글을 쓴 뒤, <아하! 한겨레> 누리집(www.ahahan.co.kr)에 올려 주세요. 잘 쓴 글을 선택해 ‘통합논술 세미나’에 실어 줍니다.

1. 아이작 아시모프는 1950년에 출간한 그의 책 <나, 로봇>에서 로봇 행동의 윤리적 법칙을 기술했다. 로봇 공학의 3대 원칙이 그것이다.

첫째, 로봇은 인간에게 해를 입히거나 또는 위험을 방관하여 인간이 해를 입게 해서는 안 된다. 둘째, 로봇은 인간의 명령에 복종해야 한다. 단 첫째 원칙에 반할 경우에는 그렇게 하지 않을 수 있다. 셋째, 로봇은 자기 자신을 방어해야 한다. 단 그것은 첫째와 둘째 원칙에 반하지 않는 경우로 한정된다.

이 같은 로봇의 3대 원칙이 미래에도 완벽하게 지켜질 수 있을지 본인의 생각을 써 보시오. (800자)

2. 유나바머 선언문 가운데 아래와 같은 내용이 있다. 이 글을 읽고 비평하시오. (1000자)

다른 한편으로, 인간이 기계를 계속 통제하는 것이 가능할지도 모르겠다. 이럴 경우 자동차나 피시 같은 사적 소유 기계들에 대해서는 개인들이 통제력을 가지고 있을지 모르지만 대규모 기계 시스템에 대한 통제는 극소수 엘리트가 장악할 것이다. 이런 상황은 오늘날과 마찬가지지만 두 가지 점에서 큰 차이가 있다.

기술의 진보 덕분에 엘리트는 대중에 대해 지금까지보다 훨씬 큰 통제력을 행사할 것이다. 그리고 인간이 노동이 더 이상 필요 없을 것이므로, 대중은 불필요한 존재, 즉 시스템에 괜한 부담만 주는 존재가 될 것이다. 엘리트가 무자비하다면 간단히 대중들을 제거하기로 결정할 것이다.

엘리트가 인도적이라면 인구가 극도로 줄어들 때까지 출산율을 감소시키기 위해 선전술이나 심리학 또는 생물학 기술을 이용할지도 모른다. 혹시 엘리트가 관대한 마음을 지닌 자유주의자들이라면, 나머지 대다수의 인류를 지켜 주는 선량한 목자 역할을 하려고 할지도 모르겠다.

그래서 모든 사람의 육체적 욕구가 만족되고, 모든 아이들을 심리적으로 안정적인 상황에서 키우고, 누구든 건전한 취미를 갖고 바쁜 생활을 하도록, 그리고 누군가 불만을 느끼는 사람이 있다면 그의 ‘문제’가 해결되도록 신경을 쓸 것이다.

물론 그런 상황에서 삶은 목적 없는 것이 되고, 사람들의 권력에 대한 욕망을 없애거나 무해한 취미 활동으로 승화시키기 위해 생물학적 내지 심리학적 조작이 가해질지도 모른다. 이런 사회에서 조작된 인간은 행복할지는 몰라도 분명 자유로운 존재는 아닐 것이다. 집에서 기르는 동물이나 마찬가지 상태일 테니 말이다.