特朗普支持对人工智能安全开展自愿性独立审计

美国总统唐纳德·特朗普支持对人工智能系统开展独立审计，将其作为白宫与科技行业领军高管达成的一项自愿协议的一部分。

这项协议在一场有近两打行业领袖出席的午餐会后签署，呼吁人工智能企业就最佳实践展开合作，并审查其最先进系统的安全性。协议不具法律强制力，但特朗普对记者表示，它具有道德约束力。

特朗普在 Truth Social 上公布了这项协议。签署者包括 Anthropic 首席执行官达里奥·阿莫代伊、英伟达首席执行官黄仁勋、SpaceXAI 的埃隆·马斯克、OpenAI 总裁格雷格·布罗克曼、Meta 首席执行官马克·扎克伯格，以及 Alphabet 首席执行官桑达尔·皮查伊。

随着人们对人工智能潜在危险的担忧加剧，各方作出了这些承诺。彭博法律报道称，这项协议保留了本届政府倾向于由行业自愿进行监督的立场，但也承认，其中一些建议最终可能被写入法律或法规。

自愿性的安全框架

根据这份文件，企业应在其人工智能系统周围建立多层防护。拟议措施涵盖网络安全、生物安全和化学危害相关威胁，也包括模型可能以非预期方式行动的可能性。

企业还将成立内部团队，跟踪这些防护措施是否有效。协议建议各公司董事会任命独立委员会，监督安全团队和外部审查。使用外部评估机构尤其重要，因为独立测试一直是人工智能行业部分人士的主要诉求。

Anthropic 和 OpenAI 此前已经承诺使用独立评估人员。因此，周二达成的协议将一些企业此前单独采取的方法扩展为更广泛的框架，并获得总统支持。

本届政府此前一直对被认为可能开展此类评估的组织持谨慎态度。一些潜在审查机构与有效利他主义有关。这是一场发端于硅谷的运动，利用量化分析评估如何通过决策产生最大益处。该运动的许多支持者主张放慢人工智能的发展，因为先进系统可能威胁人类生存。

曾任特朗普人工智能事务主管、并出席午餐会的大卫·萨克斯曾批评外部评估，称其缺乏科学可信度。与此同时，据彭博新闻此前报道，一些可能开展审查的组织已经与商务部人工智能标准与创新中心进行过讨论。

围绕人工智能的政治压力

特朗普支持安全措施，表明他的语气较此前不再理会人工智能灾难性风险警告时有所转变。他总体上推动这项技术快速且不受限制地发展，这一立场使他与支持加强防护措施的选民产生分歧。

昆尼皮亚克大学最近的一项民调发现，超过七成选民更青睐支持加强人工智能管控的候选人。随着11月选举临近，这一议题的政治敏感性日益上升，使白宫达成的协议影响超出科技行业范围。

涉及 OpenAI 失控代理的多起引人注目事件也加剧了公众的不安，其中包括一次针对澳大利亚政府网站的攻击。人工智能企业的前员工也分别警告称，这项技术可能对人类构成生存性危险。

这项协议并未解决企业是否应被要求遵守具有约束力的安全标准这一争论。相反，它将主要责任留给开发者，同时暗示正式规则日后可能适用。协议措辞表示，企业应采纳所建议的管控措施，而不是对其施加这样做的法律义务。

与 Anthropic 的交流更加融洽

这次会议还凸显了特朗普与阿莫代伊关系的变化。Anthropic 负责人一直主张放慢尖端人工智能的发展，这一立场最近引发了特朗普在社交媒体上的批评。周日，阿莫代伊还曾与总统私下共进晚餐。

然而在白宫，特朗普对阿莫代伊大加赞赏，并请他向记者发言。阿莫代伊支持让美国保持人工智能领域领先地位的目标，同时坚持认为这项技术仍带来严重且尚未解决的危险。他说，如果美国要在不牺牲安全的情况下取得进展，就必须开展合作。

不过，总统与这些高管公开同台，仍可能招致政治对手的批评。特朗普以极高的赞誉称呼在场的商界领袖，进一步强化了外界关于他与科技行业关系过于密切的指责。

目前，这项协议在寻求加强人工智能防护措施的人士与抵制立即实施政府强制要求的本届政府之间提供了一种妥协方案。协议让企业参与设计和监督安全防护措施，同时至少在原则上为未来的政府行动打开了大门。