이란 연계 세력이 미국 인공지능(AI) 기업 앤트로픽의 AI 모델 ‘클로드’를 활용해 중동에 배치된 미 해군 함정을 추적하고 공격 표적을 선정하려 한 것으로 나타났다.

예멘 후티 반군과 중국·러시아 연계 세력도 미사일 개발과 감시, 자율살상 드론 구축 등에 클로드를 악용하려 한 정황이 확인됐다.

11일(현지시간) 앤트로픽이 공개한 154쪽 분량의 ‘AI 오남용 감지·대응’ 보고서에 따르면 ‘GTG-30005’라는 코드명으로 식별된 이란 연계 위협 세력은 클로드를 이용해 중동에 주둔한 미 해군 부대의 위치를 파악하고 공격 표적 추천 자료 등을 작성했다.

이들은 공개된 군사 사진의 설명 등을 통해 확보한 미군 명단과 군함·항공기 위치 데이터, 군사·상업용 위성사진 등을 종합해 미군 함정의 동선을 추적한 것으로 조사됐다.

특히 클로드를 활용해 군함에 탑재된 통신·제어 시스템의 보안 취약점을 집중적으로 분석한 것으로 나타났다. 월스트리트저널(WSJ)은 이란 연계 세력이 선박과 항공기의 신호정보와 위성사진 등을 수집해 미 군함을 추적하고 함정 통신 시스템의 취약점을 찾았다고 전했다.

앤트로픽은 해당 활동을 사전에 탐지해 관련 계정을 정지시키고 정부 당국에 관련 정보를 공유했다고 밝혔다. 향후 유사한 AI 악용을 탐지하기 위한 새로운 감시·탐지 절차도 마련했다.

AI를 군사적으로 활용하려는 시도는 이란 연계 세력에 그치지 않았다.

예멘 후티 반군과 연계된 것으로 파악된 ‘GTG-87001’은 클로드를 활용해 사거리 2000㎞ 이상의 다단계 탄도미사일과 극초음속 활공체 등 고성능 유도무기의 소프트웨어를 개발하려 한 것으로 나타났다.

앤트로픽은 이 과정에서 클로드의 안전장치가 상당수 요청을 차단했지만 모든 요청을 막지는 못했다고 인정했다. 회사는 관련 계정을 차단하고 정부 협력기관과 정보를 공유하는 한편 추가적인 오남용 방지책을 마련했다고 밝혔다.

◇中·러 연계 세력, 美 AI '클로드' 악용해 감시·드론 개발 시도

중국 정부와 연계된 세력이 클로드를 이용해 해외 인사들을 추적·감시한 사례도 확인됐다.

앤트로픽에 따르면 중국 연계 세력은 시리아를 비롯한 해외 지역의 위구르족과 망명 위구르족 언론인들을 추적하고 감시하는 데 클로드를 활용했다.

또 다른 중국 연계 계정들은 아시아 지역 종교 지도자와 단체 관계자에 관한 정보를 수집·정리한 것으로 조사됐다. 가톨릭 추기경과 대만 장로교회 지도부, 티베트 불교 시민사회 관계자와 망명 정부 등이 대상에 포함됐다.

러시아 연계 세력은 클로드를 군사기술 개발과 선전전에 활용하려 한 것으로 파악됐다.

이들은 우크라이나 전장에서 확보한 데이터를 클로드에 활용해 자율적으로 작동하는 살상용 드론 군집을 구축하려 했다. 중앙아프리카공화국과 콩고민주공화국 등 아프리카 국가에서는 AI로 생성한 친러시아 성향의 선전물을 유포하는 허위정보 캠페인에도 클로드를 활용하려 한 것으로 조사됐다.

앤트로픽은 이와 별도로 특정 국가와 연계된 세력이 클로드를 이용해 치명적인 생물무기를 개발하려 한 시도도 적발해 차단했다고 밝혔다. 다만 해당 세력이 어느 국가 또는 정부와 연계됐는지는 공개하지 않았다.

클로드에는 악의적인 해킹이나 생물·화학무기 개발 등 위험한 목적으로 AI를 사용할 수 없도록 안전장치가 적용돼 있다. 그러나 일부 위협 세력은 실제 목적을 숨기거나 요청 방식을 지속적으로 바꾸는 방식으로 제한을 우회하려 한 것으로 나타났다.

앤트로픽은 “적절한 안전장치가 없다면 이 같은 능력은 재앙적인 결과를 초래할 수 있다”고 경고했다.

이어 이번 조사 결과가 다른 AI 개발사들이 유사한 악용 패턴을 조기에 탐지하고 정부와 시민사회가 새롭게 등장하는 위협을 파악해 공동 방어체계를 강화하는 데 도움이 되기를 바란다고 밝혔다.