“착한 AI만으로 충분치 않다”…‘임베디드 에틱스’ 필요해

사람과디지털포럼 기조연사 제임스 랜데이

제임스 랜데이

‘선한 인공지능으로 부족 : 인간중심 인공지능의 사례’로 기조연설을 할 제임스 랜데이는 스탠퍼드대 인간중심 인공지능연구소(HAI) 부소장 겸 연구책임자로, 인간-컴퓨터 사용자환경(HCI) 분야의 권위자다. 랜데이 부소장은 인공지능 이미지 연구의 세계적 권위자인 페이페이 리와 함께 2019년 인간중심 인공지능연구소 설립을 주도했다. 랜데이 부소장은 “챗지피티4 이상의 인공지능 연구를 6개월간 유예하자”는 지난 3월 ‘삶의 미래 연구소’(FLI) 공개편지에 서명한 인물로, 그에 대한 견해도 포럼에서 밝힐 예정이다.

랜데이는 스탠퍼드대 연구소가 인간중심의 인공지능을 만들기 위해 주력하는 ‘임베디드 에틱스’를 주도하는 인물로, 그 동기와 기대 효과를 상세히 설명할 계획이다. 랜데이는 ‘임베디드 에틱스’에 대해, 인공지능 설계 초기와 개발 전 과정에 윤리적 시스템을 내장해야 한다고 주장한다. 사회과학자나 언론이 인공지능 알고리즘으로 인한 문제를 사후에 다루거나 보도하는 방식만으로는 한계가 뚜렷하다는 생각이다. 인공지능은 사회에 미치는 영향이 막대하고 그로 인한 피해와 부작용도 크기에 사후 수습을 통해 시정하는 것은 불가능할 수 있다.

랜데이는 챗지피티가 그래픽 이용자 환경(GUI)과 유사한 새로운 기술 조작법이 될 것이라는 전망에 대해 이용자 환경 전문가로서의 의견도 내놓을 예정이다. 그는 기본적으로 대화형 인터페이스가 이전 세대의 모든 이용자 환경을 대체하지는 않을 것이라는 견해를 갖고 있다. 컴퓨터에 말로 지시하는 것보다 지도나 그림을 보여주는 게 더 유용할 때도 많다고 보기 때문이다.

구본권 사람과디지털연구소장 [e-mail]