인공지능 모델의 안전성 검사가 미국 정부 차원에서 더욱 체계화되고 있다. 구글, 마이크로소프트, xAI는 미국 상무부 산하 AI 표준 및 혁신 센터(CAISI)에 신규 AI 모델을 자발적으로 제출하기로 합의했다. 이번 협약은 바이든 행정부 시절 OpenAI와 Anthropic이 체결한 기존 협정을 확대한 것으로, 이제 모든 기업의 AI 모델이 상용화 전 능력과 보안에 대해 평가받게 된다.

CAISI 센터는 이미 40건의 AI 평가를 수행했으며, 아직 공개되지 않은 최첨단 모델들도 평가했다고 발표했다. 평가 범위는 상업용 AI 시스템의 테스트, 협력 연구, 모범 사례 개발을 포함한다. 구글의 딥마인드가 개발한 제미니는 구글 제품뿐 아니라 미국 국방부·군사 기관에서도 활용되고 있으며, 마이크로소프트의 코파일럿도 시장에 널리 배포된 상태다. xAI의 그록은 이미지 변조 문제로 공중의 비판을 받고 있다.

이번 정부 주도의 AI 안전성 검사 확대는 트럼프 행정부의 기술 정책 전환을 시사한다. 트럼프 대통령은 작년 AI 행동 계획을 통해 AI 개발의 "규제 제거"를 강조했으나, 미국 군부의 AI 활용 확대와 Anthropic의 위험도 높은 모델 개발 사례를 고려하면서 정책 입장을 조정하는 추세를 보이고 있다. 마이크로소프트는 이미 자체적으로 AI 모델을 테스트하지만 "국가 안보와 대규모 공공 안전 위험에 대한 테스트는 정부와의 협력이 필수"라고 밝혔다.