기업의딥페이크판별및평판보호지원
AI가 생성한 딥페이크와 같은 사기 미디어는 기업 평판 관리, 사기 방지, 내부 조사 등에 심각한 위험을 가할 수 있습니다. 점점 더 정교해지는 기술로 인해 조작된 미디어는 육안으로는 진위 여부를 판별하기 어려울 수 있으며, 이로 인해 디지털 미디어의 진위 여부를 감지하고 검증할 수 있는 솔루션에 대한 수요가 증가하고 있습니다.
일부에선 AI 감지 도구로 간단히 검사하면 사기 여부를 판별할 수 있다고 생각하기도 합니다. 하지만 현실은 훨씬 더 복잡합니다. 소위 ‘딥페이크 감지기’라고 하는 도구가 여러 곳에서 출시되고 있지만, 이미 온라인에 게시된 미디어를 100% 감지하고 신뢰할 수 있는 딥페이크 감지 기술은 현존하지 않습니다. 소셜 미디어 플랫폼에서 미디어를 처리하는 방식, 업로드된 파일을 변환하고 온라인에 게시되기 전에 새로운 사본을 생성하는 방식 때문에 발생하며, 이로 인해 포렌식 분석이 훨씬 더 어려울 수밖에 없습니다. 그러나 딥페이크와의 끊임없는 싸움에서 기업을 도울 수 있는 강력한 솔루션이 존재합니다.
미디어 검증 역할
기업에서는 디지털 미디어를 널리 공유하기 전에 이를 검증할 수 있는 도구가 필요합니다. 이러한 도구가 특히 필요한 시나리오는 다음과 같습니다.
- 브랜드 보호: 사기 미디어 또는 조작 미디어를 사용해 기업이나 기업 임원에 대한 잘못된 정보를 퍼뜨릴 가능성이 있고, 잠재적으로 이미지 손상과 재정적 손실로 이어질 수 있습니다.
- 보험금 청구: 조작 이미지나 비디오를 보험 청구 사기에 활용할 수 있기에 보험사에서 제출된 미디어의 진위를 판별하는 것이 중요합니다.
- 내부 조사: 직원 분쟁, 괴롭힘 신고, 지적 재산권 도용 사건에 대한 증거로 제출된 미디어의 진위를 사측에서 판별해야 하는 경우도 있습니다.
기업은 미디어를 출처에서 직접 검증함으로써 이미지나 비디오가 원본인지, 변환되었는지, 아니면 AI가 생성한 것인지 확인할 수 있습니다. 기업은 딥페이크 감지에만 집중하기보다는 미디어 검증 관행에 집중해야 합니다. 콘텐츠를 취득하는 시점에서 콘텐츠의 진위 여부를 확인함으로써 보관 체계를 구축하고 미디어를 공개하기 전에 변조 여부를 확인할 수 있습니다.
딥페이크 감지의 한계 이해하기
시중에서 출시된 딥페이크 감지 도구 중 다수는 높은 정확도로 사기 미디어를 식별할 수 있다고 주장합니다. 그러나 이러한 도구는 포렌식 또는 법률 목적으로 설계된 경우가 거의 없으며 방법론을 투명하게 공개하지 않는 경우도 허다합니다. 많은 기업은 탐지 프로세스에 대한 검증 가능한 데이터나 증거를 제공하지 않고도 높은 성공률을 홍보하기도 합니다.
딥페이크 감지 도구의 주요 단점 중 하나는 종종 AI가 생성한 아티팩트를 식별하는 데만 초점을 맞춘다는 것입니다. 하지만 가장 높은 품질의 딥페이크는 인공지능으로만 제작되는 것이 아니라 미디어 산업의 비디오 편집과 비슷하게, 사람이 직접 편집하고 수정하는 2차 단계를 거치는 경우가 많습니다. 인간이 직접하는 추가적인 정교화 작업으로 딥페이크를 감지하기가 훨씬 더 어려워졌습니다.
사기 미디어를 방지하는 잠재적 솔루션 중 하나는 콘텐츠 출처 및 진위성 연합(C2PA)에서 제안한 콘텐츠 자격 증명 정보를 사용 것입니다. 이러한 자격 증명 정보를 통해 디지털 미디어에 진위성과 출처를 증명하는 메타데이터를 삽입할 수 있습니다. Microsoft, Adobe, BBC가 공동으로 설립한 이 기술이 여러 부문에서 사용되면 검증된 콘텐츠를 신뢰할 수 있는 시스템을 구축할 수 있습니다. 기업 입장에서는 이 기술을 사용하면 콘텐츠의 유효성을 검증할 수 있는 기회가 될 뿐만 아니라 모든 사람을 보호하는 산업 표준을 추진할 수 있는 기회이기도 합니다. 그럼에도 불구하고 C2PA와 같은 이니셔티브에는 콘텐츠 자격 증명 정보를 활용하는 광범위한 기술 도입과 적극적인 노력이 필요하며, 이니셔티브를 지원하고 이러한 방식을 다운스트림에 도입시키기 위해 소셜 미디어 플랫폼과 파일 공유 사이트의 협력이 필요합니다. 현재 이러한 시스템은 일반 소비자를 대상으로 존재하지 않으며, 콘텐츠가 “진짜”임을 보여주고자 하는 사람들을 대상으로도 마찬가지입니다.
소셜 미디어에서의 사기 미디어 탐지
소셜 미디어 플랫폼을 이용하면 광범위한 대중과 콘텐츠를 쉽게 공유할 수 있어 좋지만, 이미지와 비디오의 진위 여부를 판별하는 것이 어려운 과제로 남아 있습니다. 소셜 미디어 플랫폼에 미디어를 업로드하면 파일을 변환하여 저장 및 스트리밍에 최적화된 새로운 미디어가 생성되는 작업을 거칩니다. 이 과정에서 타임스탬프, 지리적 위치, 기기 정보 등의 메타데이터가 변경되거나 사라집니다. 이러한 데이터는 파일이 어떻게, 어디에서 생성되었는지에 대한 정보를 포함하고 있어 디지털 포렌식 조사에 매우 중요한 정보입니다.
중요한 정보가 지워진 경우 원본 파일을 재구성하거나 진위 여부를 확인하는 것이 훨씬 더 어려워집니다. 또한 소셜 미디어 플랫폼은 포렌식 증거를 왜곡할 수 있는 압축 알고리즘과 기타 변환 작업을 사용해 사기성 미디어 감지를 더욱 어렵게 만듭니다.
소셜 미디어 플랫폼 회사에서 업로드 시점에 AI 인증 및 검증 도구를 적용시켜서 검증된 콘텐츠만 게시되도록 보장할 수도 있지만, 아직까지 이러한 시스템을 적용시킨 회사는 없습니다. 이러한 기능이 지원될 때까지 다른 방법을 사용하여 미디어를 검증해야 합니다.
기업용 미디어 검증 지원
현재 온라인 소스에서 딥페이크를 100% 감지할 수 있는 방법은 없지만, 기업이 미디어를 게시하거나 널리 공유하기 전에 미디어를 검증하기 위해 취할 수 있는 중요한 단계가 있습니다. Magnet Verify는 수사관에게 포렌식 및 조사 목적으로 설계된 특허받은 특수 목적 미디어 인증 플랫폼을 제공합니다. 검증되지 않은 높은 정확도를 주장하는 일반적인 딥페이크 감지 도구와 달리 Magnet Verify는 법적 조사 시 사용할 수 있고 기업 조사, 보험 사기 감지 및 브랜드 보호에 사용할 수 있는 입증 가능한 정확한 결과를 생성하도록 제작되었습니다.
Magnet Verify의 주요 장점은 신뢰할 수 있는 출처에서 수집한 미디어를 분석할 수 있는 기능입니다. 소셜 미디어 플랫폼에 업로드하며 변환되거나 편집되기 전인 원본 디지털 콘텐츠를 평가할 수 있게 해주는 중요한 요소입니다. 이 단계에서 이미지와 비디오의 진위 여부를 확인함으로써 수사관은 미디어가 변조되었는지 또는 원본 형태를 유지하고 있는지 확인할 수 있습니다.
특히 미디어 인증이 중요한 역할을 하는 보험 산업에서 매우 유용하게 활용할 수 있습니다. 변조된 이미지나 비디오를 사용해 재산 피해, 신체 상해 또는 기타 보험 손실을 거짓으로 꾸며 보험 청구 사기를 치는 경우가 있습니다. 전통적으로 보험사는 보험금 청구를 검증하기 위해 인간의 평가와 기본적인 메타데이터 정보 확인에 의존해 왔지만, 딥페이크 기술이 발전하면서 사기 증거를 조작하기가 더 쉬워졌습니다. Magnet Verify를 청구 검토 프로세스에 적용시키면 보험사는 최종 사용자가 이미지나 비디오를 촬영하기 전에 소프트웨어나 앱을 설치하지 않고도 제출된 미디어를 포렌식 수준에서 분석하여 사기 징후나 변환 사항을 효과적으로 판별할 수 있습니다.
마찬가지로, 기업은 직원이나 외부 당사자가 직장 분쟁, 부정 행위에 대한 주장, 지적 재산권 도용 또는 법적 증거로 이미지나 비디오를 제출하는 상황을 경험할 수 있습니다. 이러한 상황에서 미디어의 진위 여부를 확인할 수 있는 신뢰할 만한 방법이 없다면, 조직은 제출된 증거가 수사관을 속이기 위해 변조되었는지 여부를 판단하기 어려울 수 있습니다. Magnet Verify는 기업 보안팀, 인사부, 법무팀이 포렌식 수준의 정확도로 디지털 미디어를 판별하여 변조되지 않은 증거에 기반해서 의사 결정이 이루어지도록 보장합니다.
브랜드 보호와 디지털 신뢰를 위한 미래 방향
사기 미디어 감지 기술이 아직 완벽하다고 할 수는 없지만 Magnet Verify와 같은 도구를 통한 신뢰할 수 있는 검증은 디지털 사기를 방지하는 중요한 방어 수단이 되어줍니다. Magnet Verify와 같은 포렌식 수준의 검증이 가능한 솔루션을 새로운 콘텐츠 자격 증명 프레임워크와 통합함으로써 잘못된 정보에 맞서고, 평판의 무결성을 보호하며 사기를 방어할 수 있습니다.
CorporateSalesAPAC@magnetforensics.com으로 문의해 Magnet Verify와 조작된 미디어에 대응하기 위한 이미지 및 비디오 검증 기능에 대해 자세히 알아보세요. 디지털 증거 검증을 간소화하는 신뢰할 수 있는 조사 도구로 도움을 드리고 싶습니다.