[오철우의 과학풍경] 인공지능 개발 경쟁 ‘잠시 중단’ 제안의 의미

첨단 기술 기업들의 개발 경쟁으로 인공지능 기술이 인간의 통제권 너머로 치달을 수 있다는 우려가 커지고 있다. 최근 인공지능 학계와 산업계 인사들이 챗지피티-4를 능가하는 인공지능 개발을 잠시 중단하고 안전하고 투명한 인공지능을 위한 기술과 대책을 논의하고 마련하자고 요청하는 공개편지를 발표했다. 생명미래연구소 제공

오철우 | 한밭대 강사(과학기술학)

얼마 전 타계한 1980년 노벨화학상 수상자 폴 버그는 유전공학의 선구자로 불리지만, 과학사에서 과학의 사회적 책임을 상징하는 ‘아실로마 회의’의 주역으로도 잘 알려진 인물이다. 그는 1970년대 초 놀라운 유전자 재조합 실험에 성공하고서 그 기술이 초래할지 모를 잠재적 위험을 걱정했다. 그와 동료들은 유전자 재조합 연구의 자발적 모라토리엄(일시 중단)을 선언하고 안전 대책을 위한 회의 소집을 요청했다. 1975년 미국 캘리포니아 아실로마에서 과학자, 의사, 법학자, 언론인 등이 참여한 역사적인 회의가 열렸고, 이후 안전한 연구 지침과 대책들이 마련됐다.

아실로마는 충분한 대비 없이 기회와 위험으로 다가온 낯선 과학기술의 사회적, 윤리적 쟁점을 다루는 책임감 있는 과학의 상징이 됐다. 요즘도 과학과 사회 이슈를 다루는 회의가 이어진다. 2017년엔 인공지능(AI)의 사회적 책임을 다루는 회의가 열려 ‘아실로마 인공지능 원칙’이 선언된 바 있다.

최근 인공지능 학계와 산업계 인사들이 “거대 인공지능 실험을 잠시 멈추라”고 요청하는 공개편지를 발표했는데, 여기에서도 인공지능이 인간을 위해 개발돼야 한다는 아실로마 인공지능 원칙이 다시 강조됐다. 이들은 ‘챗지피티-4’를 넘어서는 첨단 인공지능 개발을 6개월 동안 중단하고 안전한 인공지능 기술과 대책을 마련하자고 주장했다. 미국 비영리단체 생명미래연구소( The Future of Life Institute·FLI)가 주도한 편지에는 혁신기업가 일론 머스크, 애플 공동 창업자 스티브 워즈니악, 인공지능 권위자 스튜어트 러셀을 비롯해 저명인사 여럿이 서명해 상당한 파장을 불러일으켰다.

편지에는 인공지능과 우리의 미래에 대한 깊은 우려가 담겼다. “기계가 우리의 정보 채널을 선전과 거짓으로 가득 채우도록 내버려둬야 하는가? 결국에 숫자와 지능에서 우리를 넘어서서 우리를 지우고 대체할 수 있는 그런 비인간 마음을 개발해야 하는가? 우리는 문명의 통제력을 잃을 위험을 감수해야 하는가?” 자동생성 문장이 인간의 여론을 교란할 때 민주주의에도 위협이 될 수 있다. 편지는 “그런 결정을 선출되지 않은 기술 지도자들에게 위임해선 안 된다”고 주장한다.

그렇다고 이런 주장이 기술 자체를 부정하는 러다이트 같은 것은 아니다. 개발자조차 제어하기 어려운 기술로 치닫는 “통제를 벗어난 개발 경쟁”을 잠시 멈추고 “더 정확하고 안전하고 투명한” 인공지능을 만드는 데 나서자는 것이다. 인공지능의 봄을 맞이한 지금, 결실을 얻을 가을로 내달리기보다 한숨 돌리면서 기술의 이로움을 다지는 “인공지능 여름”의 시간을 보내자는 속도조절론으로 이해된다. 편지는 인공지능 기술이 궁극적으로 무엇을 위한 것인지 다시 돌아보게 한다.