美国与科技公司签订协议,对其模型进行安全审查5月5日,美国商务部人工智能标准与创新中心(CAISI)发布消息,称其已与谷歌DeepMind、微软和xAI达成协议,在其新人工智能模型向公众发布前会对其进行国家安全审查。CAISI称,开发者与政府分享未发布的AI模型是常见做法。该机构将对签署协议的公司进行40多项评估,以帮助政府全面评估与国家安全相关的能力和风险。CAISI主任克里斯福尔(Chris Fall)在一份声明中表示,独立、严谨的评估对于理解前沿人工智能及其对国家安全的影响至关重要,CAISI的举措有助于在关键时刻造福公众。英国《卫报》报道称,OpenAI和Anthropic在2024年已与拜登政府签署了类似协议。根据当时协议,美国政府可以在公司模型公开发布前获得访问权限,以便评估和降低安全风险。此前,5月4日《纽约时报》报道称,特朗普政府正在讨论一项行政命令,成立一个人工智能工作组,建立一套针对新型人工智能模型的正式政府审查流程,考虑将新的人工智能模型纳入政府监管。多家媒体分析认为,实施上述举措的一个重要原因是美国政府对Anthropic新一代模型Mythos安全的担忧。新闻来