“게임 속 남녀 영웅 차별보면서 ‘개발자 윤리’ 필요성 절감했죠”

[짬] 엔씨소프트 사장 윤송이 최고전략책임자

윤송이 엔씨소프트 최고전략책임자(CSO). 사진 엔씨소프트 제공

인공지능(AI) 화가 작품이 미술대회에서 상을 받고, 인공지능 작곡가의 재즈 음악이 음원차트에 오른다. 인공지능이 사람의 인지능력과 표현력을 따라잡기 시작하면서 가능해진 일이다. 인공지능이 고도화할수록 이면의 위험성에 대한 우려도 커지고 있다. 빌 게이츠 마이크로소프트(MS) 창업자는 “기술을 통제할 수 없다면, 인공지능이 자칫 인류의 마지막 기술이 될 수 있다”고 경고하기도 했다.

“기술은 가치 중립적이지 않아요. 그래서 더욱 인공지능 개발자들의 윤리 의식이 중요합니다.”

윤송이(47) 엔씨소프트 사장 겸 최고전략책임자(CSO)는 21일 <한겨레>와 서면 인터뷰에서 “그 어떤 기술보다 빠른 속도로 발전하는 인공지능 시대에 기술 개발자들의 윤리 교육이 중요하다”고 강조했다. 최근 세계적인 석학 5명과 나눈 기술 윤리에 대한 고민을 담은 대담집 <가장 인간적인 미래>를 출간한 윤 책임자는 현재 엔씨소프트 북미법인 대표이사로 미국에 거주 중이다.

인공지능(AI)시대 ‘기술 윤리’ 고민
대담집 ‘가장 인간적인 미래’ 출간

2008년 ‘엔씨’ 부사장 합류때 ‘제안’
2011년 업계 첫 인공지능센터 설립
5개 연구소 200명 ‘윤리문제 검증’
“기업의 도리 찾는 게 경영자 책임”

인공지능센터와 자연어처리센터 산하에 5개 연구소를 운영하고 있는 엔씨소프트의 판교 사옥 전경. 엔씨소프트 제공

그는 사회학과 철학 등 다양한 학문 분야를 융합해 예비 개발자에게 인공지능 윤리 등을 교육하기 위해 설립된 미국 스탠포드대 ‘인간중심인공지능연구소(HAI)’를 예를 들며, “바람직한 인공지능 질서를 세우기 위한 사회구성원들의 끊임없는 질문이 공멸에서 공존으로 갈 수 있는 길”이라고 강조했다.

윤 책임자는 한국과학기술원(KAIST) 전기·전자공학과를 졸업한 뒤 매사추세츠공과대학원(MIT)에서 컴퓨터 신경과학 뇌·인지과학 전공으로 박사학위를 받았다. 이후 에스케이텔레콤(SKT) 상무를 거쳐 2008년 엔씨소프트 부사장으로 합류한 뒤 기업 최고전략책임자와 엔씨문화재단 이사장 등을 맡고 있다. 김택진 엔씨소프트 대표의 배우자다.

윤 책임자는 엔씨소프트에 합류할 때부터 인공지능 윤리에 대한 화두를 던졌다. 그가 기술 윤리에 대한 고민을 시작하게 된 계기는 ‘왜 게임 속 영웅 대다수가 남자 캐릭터인지’를 깨닫고 난 뒤부터였다고 했다. 윤 책임자는 “‘게임 내 영웅 성별을 반반으로 맞추자’는 제안을 했는데, ‘왜 그래야 하나’라는 부정적인 답변이 돌아왔다”며 “이를 계기로 개발자들의 가치관이 게임을 통해 확대 재생산할 수 있고, 기술 플랫폼을 다루는 사람들이 올바른 가치관에 대해 함께 논의하는 게 중요하다고 생각했다”고 당시를 회상했다.

이런 고민이 쌓여 만들어진 게 엔씨소프트의 ‘인공지능센터’였다. 인공지능에 대한 개념조차 생소했던 2011년 초 게임회사가 인공지능 연구소를 만든다는 소식에 업계에선 ‘의아하다’는 반응도 있었다. 하지만 게임과 인공지능 기술은 생각보다 밀접했다. 게임 플레이어가 직접 조종할 수 없는 적들의 움직임은 컴퓨터가 결정하는데, 인공지능 기술이 진화할수록 게임의 재미도 더해진다. 나아가 게임 그래픽 제작 과정 등에서 사람의 반복 작업을 줄이기 위한 목적으로도 인공지능 기술이 활용된다. 윤 책임자는 연구소에 대해 “플레이어가 더 재미있게 게임을 즐길 수 있도록 가장 극적으로 지는 기술을 연구하는 곳”이라고 소개했다.

현재는 김택진 대표 직속 인공지능센터와 자연어처리(NLP)센터를 중심으로 게임 응용, 음성, 비전, 언어, 지식 분야에 200여명의 연구원을 두고 있다. 5개의 연구소에선 공정하고 편향되지 않는 인공지능 시스템 개발을 위한 테스트도 진행한다. 가령 게임 이용자에게 노출되는 단어나 숫자 등이 문맥에 따라 비속어로 읽힐 수 있는 변수까지 찾아내기 위한 검증작업을 거치는 것이다.

윤 책임자는 “데이터 생성 단계와 모듈 테스트 단계, 서비스 단계 등에서 개인정보나 비윤리적인 문제 등을 걸러내기 위한 단계별 검증 프로세스를 거치고 있다”며 “서비스를 기획하는 첫 단계부터 기술 윤리를 고려하도록, 개발 문화로 정착하는 게 중요하다”고 말했다. 엔씨소프트를 비롯해 정보통신기술(ICT) 업계가 개발에 집중하는 디지털 휴먼(가상인간)과 관련해 사생활(프라이버시) 침해와 불법합성물(딥페이크) 같은 우려가 따라붙는 상황에서 “인종이나 특정 가치관에 편향되지 않는 인공지능 윤리 정립이 중요한 시기”라고 그는 덧붙였다.

기업 이윤과 기술 윤리가 충돌하는 시대의 경영자 책임에 대해 그는 “해야 할 도리를 다하는 기업의 길을 제시하는 것”이라고 말했다. 그는 “기업도 사회구성원인 만큼 사회가 불안해지면 기업도 영향을 받을 수밖에 없다”며 “특히 인공지능을 다루는 기업으로서 기술이 사회에 미칠 영향력과 윤리적 사안을 더 고민해야 한다. 단기 성과에만 집중해 이런 고민을 게을리한다면 기업의 영속성까지 위협할 문제가 발생할 수 있다”고 설명했다.

지속가능한 인공지능 발전을 위해 정부와 사회구성원 등의 관심도 강조했다. 윤 책임자는 “정부의 적절한 규제와 지원은 기술 발전 과정에서 큰 역할을 해왔다”며 “이해 당사자인 학계와 시민단체 등이 기술에 대한 감시 등 각자 역할을 잘 해내는 것도 건강한 기술 혁신에 자양분이 될 것”이라고 강조했다.

옥기원 기자 [e-mail]