딥페이크 조작 막는 카메라 나온다

지난달 러시아 인공지능연구소와 삼성전자가 공동으로 개발한 딥페이크 영상. 사진 이미지 한장을 이용해 자연스러운 동영상을 만들어냈다. 출처:Few-Shot Adversarial Learning of Realistic Neural Talking Head Models(arXiv.org)

[구본권의 사람과디지털]
뉴욕대 연구진, 이미지 프로세싱 단계에 워터마크
특정 컬러 주파수에 삽입해 보정 거쳐도 기능유지
카메라업체 채택 여부와 딥페이크 불안 정도에 성패

딥페이크 조작 사진에 맞서 이미지 변조 여부를 보여주는 새로운 개념의 카메라 기술이 개발되고 있다.

미국의 정보기술 전문지 <와이어드>에 따르면, 뉴욕대학 탠던공대 연구진은 사진의 변조 여부를 쉽게 알려주는 새로운 카메라 촬영기술을 개발하기 시작했다. 뉴욕대의 파월 코러스와 나시르 메몬은 오는 6월17일 캘리포니아 롱비치에서 개최되는 미국전기전자학회(IEEE)의 컴퓨터 비전과 패턴인식 분과 국제컨퍼런스에서 해당 논문을 발표할 예정이다. 이들의 논문(Neural Imaging Pipelines - the Scourge or Hope of Forensics?)은 논문공개 사이트인 아카이브(arXiv.org)에 올라 있다.

기존의 위조방지 기술은 주로 이미지에 복제방지 표지(워터마크)를 삽입하거나 해시값을 검증하는 방식이었다. 일종의 이미지 형태를 띠는 워터마크는 복제하거나 없애는 기술이 있고, 디지털 지문으로 불리는 해시값은 사진이 편집되거나 복제될 때마다 달라지므로 사진이 다양하게 활용되는 상황에서 적용 한계가 있었다. 기존 위조방지 기술은 이미지가 생성된 이후에 이미지에 적용된다는 특성을 지니는데, 뉴욕대 연구진이 이번에 발표한 위조방지 기술은 카메라에서 이미지를 생성하는 시점에 포렌식 정보를 내장하는 방식이라는 게 특징이다. 카메라의 이미지 신호 프로세서 안에 조작 여부를 쉽게 확인할 수 있게 해주고 삭제불가능한 표지(워터마크)를 삽입하는 방식이다.

뉴욕대 연구진이 개발한 새로운 형태의 사진 조작 검증방법은 카메라의 이미지 신호 프로세서 안에 조작 여부를 쉽게 확인할 수 있게 해주고 삭제불가능한 표지(워터마크)를 삽입하는 방식이다. 사람 눈에는 같지만, 워터마크를 통해 변형 여부를 판단할 수 있게 해준다. 출처 : Neural Imaging Pipelines - the Scourge or Hope of Forensics?(arXiv.org)

연구진은 압축이나 밝기 조절과 같은 후보정 작업에서도 유지될 수 있도록 새로운 형태의 워터마크를 특정한 색상 주파수 안에 삽입했다. 이 워터마크는 이미지의 내용이 변형되면 알려주는 기능을 하는데, 연구진은 이 ‘포렌식 친화적’ 촬영 기능을 사용한 결과 조작사진 탐지율이 기존 45%에서 90% 이상으로 높아졌다고 밝혔다. 하지만 연구진은 카메라의 이미지 프로세서에 워터마크 기술을 채택하는 ‘포렌식 친화적’ 위조방지 기술 또한 완벽할 수는 없다고 한계를 인정했다. 가짜와 위조를 탐지하는 다른 접근법과 함께 사용될 때 효과를 높일 수 있다는 게 연구진의 제안이다.

드렉셀대학의 정보보안 연구원 매트 스탬은 <와이어드>를 통해 “이 기술은 워터마크에 기반한 이미지 보안에 매우 흥미롭고 창의적인 시도이며 카메라를 통해 사진에 보안수단을 추가하는 방법을 설계하는 새로운 길을 열었다”고 긍정적으로 평가했다. 스탬은 “그러나 공격자가 딥러닝을 이용해 보안모듈을 제거하고 위조한 새로운 보안모듈을 삽입하는 방법을 만들 가능성이 있는 방법”이라고 우려를 덧붙였다.

위조 방지 보안기술은 기본적으로 쫓고 쫓기는 상황이 끝없이 지속되는, 절대적 승자가 없는 게임이다. 인공지능을 활용한 딥페이크 기술의 등장은 카메라 촬영 단계에 신개념 보안정보를 탑재하는 방법을 시도하게 만들었다. 이 기술의 성공 여부는 해당 이미지 변조 방지 기술을 카메라 제조업체들이 얼마나 적극적으로 탑재할 것인가에 달려 있다. 카메라 업체들이 위변조 추적이 기능한 이미지 프로세서를 채택할 것이냐에는 경제적 동기만이 아니라 딥페이크 조작 사진에 대한 소비자들의 불안도 포함될 것이다. 딥페이크가 새로운 카메라기술 개발을 이끄는 뜻밖의 효과를 만들고 있다.

구본권 선임기자 [e-mail]