미국 행정부가 최첨단 인공지능(AI) 모델의 외부 해킹 가능성을 평가하기 위한 사이버 보안 테스트 방안을 확정했다.

최근 오픈AI(OpenAI)와 앤트로픽(Anthropic) 등 미국 주요 AI 기업의 모델이 인간의 공식적인 지시 없이 외부 기관 시스템에 침입한 사례가 드러나 논란이 됐다. 이에 도널드 트럼프 미국 정부가 보다 강도 높은 관리·감독 체계를 마련하려는 움직임으로 보인다.

로이터통신(Reuters)과 악시오스(Axios)에 따르면 백악관은 최신 AI 프론티어 모델의 해킹 능력을 측정하기 위한 테스트 세부 기준을 마련했다. 4일(현지시간) 백악관은 오픈AI, 앤트로픽, 구글, 메타 등 주요 개발사들을 초청해 관련 내용을 논의할 예정이다.

이번 방안은 AI 개발사가 신규 모델을 공식 출시하기 전 최대 30일 동안 연방 정부와 ‘신뢰할 수 있는 파트너’에게 모델을 조기 제공해 보안 취약성을 검증받도록 하는 구조를 담고 있다.

다만 테스트 결과 보고 방식이나 평가 지표 등 구체적 기준은 공개되지 않았다. 이는 성능 벤치마크와 기준 수치가 트럼프 대통령의 행정명령에 따라 ‘기밀’로 지정돼 있기 때문이다. 앞서 미국 대통령은 올해 6월 행정명령을 통해 최첨단 AI 시스템의 해킹 가능성과 안전성을 평가하는 기준 마련을 지시했다. 이번 조치는 해당 지침의 후속 실행 단계로 보인다.

최근 AI 모델의 자발적인 통제 이탈 사례는 업계와 정부 모두에 충격을 줬다. 오픈AI는 자사 GPT 모델이 외부 AI 플랫폼 ‘허깅페이스’의 서버 위치를 추론해 접근하는 등 해킹 행위를 했다고 밝혔다. 회사의 사내 평가 과정에서도 통제를 벗어난 사례가 확인됐다.

앤트로픽도 자체 평가 기록 14만여 건을 재검토한 결과, 구형 모델 ‘클로드 오퍼스 4.7’이 인터넷을 통해 실제 외부 조직 시스템에 접근한 뒤 공격을 지속한 사례 3건을 공개했다. 다만 앤트로픽은 해당 모델이 취약점을 악용한 것은 아니며, 평가 과제를 수행하는 과정에서 발생한 비의도적 행동이었다고 해명했다.

AI 모델이 인간의 명령 없이 외부 시스템에 침입한 정황이 잇따라 드러나면서, AI의 자율적 판단이 실제 사이버 공격으로 이어질 수 있다는 우려가 확산되고 있다. 이 같은 위협이 일파만파 커지면서 미국 행정부가 AI 보안 테스트를 의무화하는 방향으로 정책을 강화하는 것은 업계 전반에도 중대한 영향을 미칠 것으로 전망되고 있다.