트롤리 딜레마, 자율차가 지켜야 할 윤리는?

레벨4 자율차 윤리 가이드라인 공개

다수를 위해 소수를 희생할 것인가. 트롤리 딜레마를 설명한 이미지. 국토교통부 제공

피할 수 없는 사고 상황에서 보행자를 다치게 하더라도 탑승객을 보호하도록 자율주행차(자율차)를 설계해도 될까. 자율차 기술 개발 시 지켜야 할 ‘윤리적 원칙’에 대한 가이드라인이 공개됐다.

15일 국토교통부와 관련 기관 및 학계는 자율차 기술 개발 과정에서 고려해야 하는 ‘윤리 가이드라인’(가이드라인)을 공동으로 발표했다. 이번 가이드라인은 2027년 상용화를 목표로 개발이 진행 중인 레벨4(지정 조건에서 운전자 개입 없이 자율주행시스템이 운행) 자율차를 염두에 두고 작성됐다.

이번에 공개된 가이드라인은 자율차 기술이 준수해야 하는 기본가치 4개 항목과 행동원칙 5개 항목을 제시했다. 기본가치는 ‘인간의 생명을 우선하되, 타인의 생명이나 권리를 침해할 수 없다’는 것으로 요약할 수 있다. 피할 수 없는 사고 상황에서 탑승객을 보호하기 위해 다른 보행자나 다른 차량의 피해를 초래하는 방식으로 설계될 수 없다는 것이다. 다만 독일의 사례처럼, 인간 대신 동물이나 물건을 다치도록 할 수 있다거나 다수를 위해 소수를 희생할 수 있다는 구체적인 판단은 “추가적인 논의가 진행 중”이라며 포함하지 않았다. ‘블랙박스’와 같은 운행 정보 기록시스템을 갖춰야 하고, 탑승자가 필요할 때 제어 및 정지할 수 있는 기능을 탑재하도록 하는 등의 내용은 행동원칙에 담겼다. 다수를 위해 소수를 희생할지와 관련된 ‘트롤리 딜레마’ 등 사고를 피할 수 없는 상황에서 자율차 기술이 인간처럼 윤리적 판단을 할 수 있느냐는 주요 쟁점이 되어 왔다. 독일은 2017년 7월 자율차의 윤리 문제와 관련된 지침을 세계 최초로 발표했고, 미국에서도 2016년 9월 윤리적 고려 사항을 포함한 설계 지침을 발표한 이후 해마다 업데이트를 하고 있다.

진명선 기자 [e-mail]