월 10달러로 만드는 가짜 사진…작업은 AI 몫, 공포는 인간 몫

[챗지피티 6개월-AI의 두얼굴]

인공지능 이미지 제작 소프트웨어 미드저니가 ‘경찰에 둘러싸인 군중들’이란 내용을 요청받아 생산한 인공지능 이미지.

“엄마 난데, 핸드폰이 고장 나서. 이렇게 남김. 갑자기 월세 보증금을 올려달라네. 빨리 좀 보내줘.”

12일 인공지능(AI·에이아이)으로 목소리를 복제했다. 가족들에게 메신저로 보냈다. 모친은 속지 않았다. “목소리가 비슷하긴 한데 좀 어색해. 특유의 말투가 잘 안 느껴져.” 주변 친인척들도 비슷한 반응이었다. 하지만 가족이 아니라면 어느쪽이 기계이고, 어느쪽이 진짜 사람인지는 구별하기 어려울 것 같다는 의견이 많았다.

목소리 복제엔 케이티(KT)에서 지난해 출시한 ‘마이 에이아이 보이스’ 서비스를 활용했다. 방법은 간단했다. 11만원을 지불하고, 목소리를 녹음했다. 이틀을 기다렸다. ‘제작이 완료됐다’는 메시지를 받은 뒤 원하는 문장을 입력하면 복제된 ‘나의 목소리’가 문장을 읽어줬다. 대중서비스이다 보니 가족·지인을 속일 정도로 정교하지는 않았다. 하지만 프로들이 사용하는 수준에서는 모두를 속일 법한 정교한 인공지능 음성이 이미 제작되고 있다.

미 유명 팝가수 브루노 마스가 부른 한국 아이돌 그룹 뉴진스의 곡 ‘하입보이’(Hype boy)는 유튜브에서 이날 기준으로 조회수 148만회를 넘었다. 브루노 마스의 목소리를 따서 만든 인공지능의 ‘커버곡’이다. 브루노 마스 특유의 음색이 그대로 구현되자 댓글엔 “자연스럽다”, “놀랍다”는 반응이 줄을 이었다.

수사기관은 긴장하고 있다. 보이스피싱 범죄가 한층 정교화할 수 있기 때문이다. 경찰청 국가수사본부는 업계 가이드라인 등에 주목하면서 관련 연구용역을 이달 중 발주할 예정이다. 이종서 경찰청 사이버수사기획과장은 “에이아이 활용 과정에서 다양한 범죄 형태에 악용될 가능성이 있다고 보고, 미리 대비할 부분이 있다면 준비하려고 한다”고 말했다. 대검찰청도 2027년까지 가짜음성 탐지 기술 개발을 위한 연구용역을 발주했다.

인공지능 이미지 제작 소프트웨어 미드저니가 ‘르네 마그리트에 영감을 받아 담배란 주제로 그림을 그려달라’는 요구로 만든 인공지능 이미지.

가짜 사진도 어렵지 않게 만들 수 있었다. 인공지능 이미지 제작 툴 ‘미드저니’가 대표적인 툴이다. 원하는 이미지를 자세히 설명하기만 하면 된다. 설명이 상세할수록 원하는 이미지에 가까워진다. 그림처럼 묘사할 수도, 사진처럼 만들어 낼 수도 있다. “경찰에 둘러싸인 군중을 사진으로 만들어줘”, “르네 마그리트에 영감을 받아서 ‘담배’란 주제로 그림을 그려줘”라고 주문하자 그럴싸한 이미지들이 만들어졌다. 첫 이미지가 마음에 들지 않아 몇 차례 요구사항을 조정하자 진짜 같은 가짜 사진이 만들어졌다. 비용은 한 달에 10달러였다.

인공지능 이미지 제작 소프트웨어 미드저니가 ‘경찰에 둘러싸인 군중들’이란 내용을 요청받아 생산한 인공지능 이미지.

인공지능 이미지는 잠재적인 위험성이 크다. 지난 3월 도널드 트럼프 전 미국 대통령이 경찰에 체포됐다는 ‘가짜사진’이 온라인상에서 공유되면서 화제를 모았는데, 해당 사진도 미드저니를 이용해 제작된 것이었다. 이곳에서 만들어진 한 그림은 지난해 9월 미국 콜로라도 한 미술대회 디지털 아트 부문에서 입상해 논란을 낳기도 했다.

쉽게 제작할 수 있는 탓에 위법하게 사용될 우려도 크다. 미드저니는 폭력적이거나 성적인 이미지는 생산하지 못하도록 제한을 걸어뒀다. 하지만 규제를 피해 이미지를 제작하는 것도 가능하다. 관련 커뮤니티에는 ‘위험한 이미지’를 제작하는 각종 팁이 활발히 공유되고 있다. 한가지 확실한 건, 더 쉬워지고, 더 정확해질 것이라는 점이다.

곽진산 기자 [e-mail] 장나래 기자 [e-mail]