科技

特朗普签署AI行政令:要求企业发布前30天向政府开放模型访问

美国总统特朗普于本周二正式签署了一项关于人工智能的新行政命令,要求AI公司在向公众广泛发布模型之前,必须提前30天向联邦政府提供访问权限,以便政府提前评估其能力和潜在风险。这项行政命令的出台标志着美国政府对AI技术的监管进入了全新阶段,也引发了科技行业对政府监管边界的广泛讨论。这是继拜登政府时期发布AI安全行政令之后,美国政府在AI监管领域的又一重大举措,但侧重点有所不同。

根据行政令的具体内容,美国政府将以自愿参与的方式邀请AI企业加入一项基准测试机制,重点评估模型的「高级网络能力」,并判断其是否应被认定为「受监管前沿模型」。白宫方面表示,该行政令旨在加强联邦政府对AI技术的监管能力,同时要求国家安全和网络安全官员与各政府部门负责人及主要科技公司展开合作,共同应对AI带来的安全挑战。具体来说,政府将建立一套标准化的评估框架,涵盖模型的推理能力、代码生成能力、网络渗透能力、生物化学知识等多个维度,以全面衡量模型可能带来的风险。被认定为「受监管前沿模型」的企业需要在模型发布前30天向政府提交详细的安全评估报告,并配合政府进行独立的安全测试。

这一行政令的出台背景与Anthropic今年早些时候发布的Mythos模型密切相关。Mythos模型因其在识别软件漏洞和安全缺陷方面的突出表现,引起了美国政府官员和华尔街的广泛关注。该模型能够自主发现软件中的零日漏洞,其能力之强甚至让网络安全专家感到震惊。作为网络安全项目「Glasswing计划」的一部分,Anthropic最初仅向少数企业开放了该模型的使用权限,并于本周二宣布进一步扩大项目范围,将更多企业和政府机构纳入合作网络。白宫方面特别提到,新行政令将帮助政府更好地应对类似Mythos模型所发现的软件漏洞问题,确保国家网络安全不受AI技术滥用的威胁。贝森特财政部长此前曾多次警告称,新一代AI模型可能对金融体系造成巨大冲击,并敦促银行业将这类模型纳入自身网络安全体系建设之中。

值得关注的是,这项行政令的出台恰逢美国AI产业发展的关键时期。就在前一天,Anthropic宣布已秘密向美国证券交易委员会提交了IPO申请文件,估值达到9650亿美元,首次反超OpenAI的8520亿美元。而OpenAI也正在为今年可能启动的上市计划做准备,马斯克旗下的SpaceX最快可能于下周启动上市,市场估值或超过1万亿美元。在AI企业加速资本化的背景下,政府加强对模型能力的评估和监管显得尤为必要。分析人士认为,这项行政令虽然在具体实施细节上相对有限,且以自愿参与为主,但释放了美国政府将AI安全纳入国家治理体系的明确信号。未来,随着AI技术的进一步发展和应用场景的不断拓展,类似的监管措施可能会更加严格和细化,AI企业需要在技术创新和合规经营之间找到更好的平衡点。