인공지능 모델의 안전성 검사가 미국 정부 차원에서 더욱 체계화되고 있다. 구글, 마이크로소프트, xAI는 미국 상무부 산하 AI 표준 및 혁신 센터(CAISI)에 신규 AI 모델을 자발적으로 제출하기로 합의했다. 이번 협약은 바이든 행정부 시절 OpenAI와 Anthropic이 체결한 기존 협정을 확대한 것으로, 이제 모든 기업의 AI 모델이 상용화 전 능력과 보안에 대해 평가받게 된다.
CAISI 센터는 이미 40건의 AI 평가를 수행했으며, 아직 공개되지 않은 최첨단 모델들도 평가했다고 발표했다. 평가 범위는 상업용 AI 시스템의 테스트, 협력 연구, 모범 사례 개발을 포함한다. 구글의 딥마인드가 개발한 제미니는 구글 제품뿐 아니라 미국 국방부·군사 기관에서도 활용되고 있으며, 마이크로소프트의 코파일럿도 시장에 널리 배포된 상태다. xAI의 그록은 이미지 변조 문제로 공중의 비판을 받고 있다.