영상이 더 이상 증거가 아닐 때 무슨 일이 일어날까?

AI로 실제와 구별하기 어려운 영상이 쉽게 만들어지면서 영상이 자동으로 증거가 되지 않는 상황을 다룬다. 가짜 영상의 위험과 'liar's dividend'로 불리는 진짜 증거 부인 문제, 사후 탐지의 한계를 짚고, C2PA 같은 암호화 출처 표준과 관리 체인이 대안으로 제시된다. 뉴스, 법정, 본인 확인 등 사회 제도가 검증 중심으로 바뀔 필요성도 정리한다.

⏱ 00:00지난 한 세기 동안 사람들은 카메라에 사건이 찍혔다면 실제로도 그런 일이 일어났다고 믿어 왔다. 그러나 발표자는 현실에 존재하지 않는 도시 광장을 사람들이 지나가는 장면을 예로 들며, 오늘날의 인공지능이 실제와 구별하기 어려운 영상을 만들어 낼 수 있음을 보여 준다.

과거에는 그럴듯한 합성 미디어를 만들려면 전문 장비와 할리우드 수준의 시각 효과 예산이 필요했지만, 이제는 누구나 오픈 소스 모델과 클라우드 API를 이용해 적은 비용으로 전문가 수준의 영상을 만들 수 있게 되었다.

⏱ 00:40가장 명백한 우려는 대중이 계속 속을 수 있다는 점이다. 사기꾼은 그럴듯한 가짜 영상을 수천 개씩 배포하고, 그중 일부가 적절한 순간에 피해자에게 닿기를 노린다.

더 큰 문제는 진짜 영상까지 부인하기 쉬워진다는 것이다. 연구자들은 이를 '거짓말쟁이의 배당(liar's dividend)'이라고 부른다. 완벽한 가짜가 존재한다는 사실이 널리 알려지면, 곤란한 발언을 한 정치인이 녹음이 조작되었다고 주장하거나, 범죄자가 CCTV 영상을 부정하거나, CEO가 유출된 녹취록을 저급한 AI 조작이라며 일축할 수 있게 된다.

발표자는 이 문제의 비대칭성도 강조한다. 공격자는 짧은 시간에 수많은 가짜 영상을 만들어 원하는 시점과 장소에 퍼뜨릴 수 있는 반면, 방어자인 미디어 기관과 플랫폼은 각각을 하나씩 검증하느라 많은 시간과 노력을 들여야 한다.

⏱ 02:01초기 연구자들은 자동 탐지 소프트웨어로 이 문제를 풀려 했다. 입 모양의 불일치, 불규칙한 눈 깜박임, 심장 박동에 따른 피부색 변화가 없는 점처럼 사람이 놓치기 쉬운 통계적 이상 현상을 찾아내는 방식이었다.

그러나 탐지기가 오류를 잡아낼 때마다 그 정보가 생성 모델의 학습 피드백으로 쓰이기 때문에, 생성기는 탐지기를 우회하는 더 완벽한 얼굴을 만들어 낸다. 발표자는 이런 구조 때문에 사후 탐지가 이길 수 없는 군비 경쟁이 된다고 본다. 따라서 '이 영상이 가짜처럼 보이는가?'라고 묻는 접근 자체가 잘못되었다고 지적한다.

⏱ 02:35더 복잡한 문제도 있다. 스마트폰은 저장 버튼을 누르기 전부터 이미지를 선명하게 하고, 노이즈를 제거하고, 파일을 압축하는 등 알고리즘 처리를 수행한다. 사실상 거의 모든 미디어가 AI를 거치기 때문에, 탐지기는 실제 기만과 무관한 인공적 처리 과정 자체를 문제로 표시하게 된다.

결국 AI 기술의 흔적이 있다는 사실만으로 그 영상이 악의적으로 조작되었다는 증거가 되지는 않는다. 발표자는 화면 속 픽셀을 더 이상 믿을 수 없다면, 그 픽셀이 어떤 경로로 전달되었는지를 검증해야 한다고 말한다.

⏱ 03:00기술 업계는 C2PA 같은 표준을 중심으로 암호화된 출처 정보를 미디어 신뢰의 새 기반으로 만들고 있다. 미래의 카메라는 신뢰할 수 있는 하드웨어 모듈로 촬영 순간에 영상에 수학적 서명을 남기고, 이 서명은 위조 방지 디지털 매니페스트로서 파일과 함께 이동한다.

이후 편집이 이루어질 때마다 새로운 데이터 블록이 추가되어 원본 렌즈까지 이어지는 끊김 없는 관리 체인이 유지된다. 이렇게 되면 진본 영상은 사람 눈에 그럴듯해 보이는지가 아니라, 디지털 관리 체인의 무결성으로 정의된다.

⏱ 03:59신뢰할 수 있는 뉴스 기관은 인증된 디지털 매니페스트가 없는 인상적인 바이럴 영상을 방송하기를 점점 꺼리게 될 것이다. 검증이 기사의 핵심이 되면서 속보 전달은 늦어질 수 있다.

법 체계도 기준을 강화할 전망이다. 변호사는 디지털 증거에 강하게 이의를 제기할 것이고, 바디캠과 감시 시스템은 법정 증거로 인정받기 위해 엄격한 암호화 로그를 제공해야 할 것이다. 일상에서도 영상 통화는 신뢰할 수 있는 본인 확인 수단으로서의 지위를 잃을 수 있어, 민감한 금융 요청이나 기업 지침에는 공유 비밀이나 생체 인식 같은 2차 인증이 필요해질 것으로 보인다.

⏱ 04:47발표자는 우리가 이미 서명, 문서, 웹사이트처럼 위조 가능한 정보와 함께 살아가고 있으며, 공증인, 비밀번호, 인증서 같은 인프라를 구축해 그 문제를 넘어섰다고 말한다. 영상은 이제 위조가 불가능한 매체라는 지난 세기의 특권을 잃어 가고 있고, 카메라도 권위를 유지하려면 외부 검증에 의존해야 한다.

결론적으로 시각적 증거를 받아들이는 기준이 더 건강하고 엄격해져야 한다는 것이다. 우리는 여전히 보는 것을 믿겠지만, 단지 보았다는 이유만으로 믿지는 않게 될 것이라는 메시지로 영상이 마무리된다.