경찰이 인공지능(AI)을 활용해 딥페이크 허위영상물을 탐지하고 제작·유포 과정을 역추적하는 수사 체계를 고도화하고 있다. 올해 들어 7월까지 딥페이크 범죄 피의자 419명이 검거됐으며, 이 가운데 17명이 구속되는 등 대응이 한층 강화됐다. 경찰청 국가수사본부는 최근 딥페이크 범죄 증가에 대응하기 위해 탐지 소프트웨어 판별–전문 영상 분석–AI 포렌식 기법으로 이어지는 ‘3중 대응체계’를 본격 운영 중이라고 밝혔다.

경찰이 구축한 딥페이크 탐지 소프트웨어는 얼굴 생성·교체 여부뿐 아니라 눈 깜빡임, 혈류 변화 같은 생물학적 특징과 파일 메타데이터 구조까지 종합 분석해 영상의 합성 여부를 판단한다. 국내 허위영상물 탐지에 특화된 AI 모델도 탑재해 성능을 지속해서 고도화하고 있으며, 개발 이후 지금까지 총 1636건의 수사에 활용됐다. 올해는 성범죄뿐 아니라 선거범죄 등 다른 분야에서도 70건 이상 적용되며 활용 범위가 확대되고 있다.

실제로 올해 3월에는 경찰청 사이버범죄신고시스템에는 해외 성착취물 사이트에 피해자의 사진을 합성한 허위영상물이 게시됐다는 신고가 잇따라 접수됐다. 경찰은 즉시 해당 사이트에 범행 계정과 게시물 삭제를 요청하고, 여러 시도경찰청에 접수된 증거를 확보했다. 그 이후 탐지 소프트웨어로 영상을 분석한 결과 여러 영상에서 같은 특징이 확인됐고, 경찰은 동일인이 제작했을 가능성에 무게를 두고 집중 수사에 나섰다. 그 결과 20대 남성을 검거해 구속 송치했다.

탐지 소프트웨어만으로 조작 여부를 명확히 판단하기 어려운 경우에는 과학수사 영상분석관이 추가 검증에 나선다. 전문분석관은 별도의 영상 분석 프로그램을 활용해 위·변조 여부를 판독하며, 영상의 세부 조작 흔적을 정밀하게 확인한다. 여기에 더해 경찰은 자체 개발한 ‘AI 포렌식 기법’을 적용해 피의자가 어떤 생성형 AI 프로그램을 사용했는지, 어떤 부분을 어떻게 조작했는지 등 제작·유포 전 과정을 기술적으로 재구성한다. 이는 여죄 확인과 고의성 입증에도 중요한 증거로 활용되고 있다.

이 같은 AI 포렌식 기법은 실제 수사에서도 성과를 내고 있다. SNS를 통해 성착취 허위영상물을 제작·판매한 피의자를 검거한 뒤 추가 수사 과정에서 기존 영상과 다른 패턴의 조작물이 발견되자, 경찰은 탐지 소프트웨어와 AI 포렌식 분석을 병행해 사용된 생성형 AI 프로그램과 편집 전 원본 사진까지 확보했다. 이를 토대로 제작 의뢰자들의 범행 혐의까지 수사가 확대됐다.

경찰은 딥페이크 탐지 기술을 디지털 성범죄에만 국한하지 않고 허위정보 유포, 전기통신금융사기 등 AI를 악용한 다양한 범죄 수사로 확대할 계획이다. 국가수사본부 관계자는 “기술이 진화하는 속도 이상으로 경찰의 대응 기술도 꾸준히 발전시키고 있다”며 “관련 시스템을 지속해서 고도화해 허위영상물 범죄에 무관용 원칙으로 강력 대응하겠다”고 강조했다.