为何人工智能驱动的生物武器令研究人员敲响警钟

Anthropic的一份报告承认，有人曾利用其人工智能模型，研究如何提高基孔肯雅热的传染性、增加禽流感造成的危险，以及绘制与毒液有关的毒素图谱。这一披露再次引发人们对人工智能系统可能帮助人类研发生物武器的担忧，即便科学家对于这项技术目前究竟有多强大的看法存在尖锐分歧。

《麻省理工科技评论》报道称，人工智能行业内部的警告已变得越来越直接。Anthropic首席执行官Dario Amodei最近表示，这项技术带来严重风险，并主张放缓开发速度。OpenAI首席执行官Sam Altman则回应称，前沿人工智能应以审慎的步伐推进。

人工智能研究员Jacob Coxon宣布离开Anthropic后，这场争论进一步升级。曾在OpenAI工作过的Coxon表示，面对可能产生的后果，两家公司都没有采取负责任的做法。Anthropic员工Evan Hubinger公开支持这一观点，并表示他个人认为，未来十年内人工智能导致全人类死亡的概率超过10%。

人工智能如何降低门槛

令人担忧的并不仅仅是自主机器或科幻场景。研究人员担心，人工智能可能协助发现、设计或释放生物和化学制剂。潜在威胁可能包括一种会伤害具有特定遗传特征人群的病毒、一种能够摧毁农作物的真菌，或一种被投入供水系统且无法被检测出的毒物。

2022年的一项实验展示了这种滥用可能采取的一种路径。Collaborations Pharmaceuticals的科学家当时建立了一个人工智能系统，用于寻找可能成为药物的分子。当他们改变系统的目标后，该系统在不到六小时内生成了4万种可能被用作化学战剂的分子。其中一些分子被预测具有比已知神经毒剂更强的毒性。

这一结果令斯坦福大学教授David Magnus感到震惊。自20世纪90年代末以来，他一直研究医学研究和生物技术遭到滥用的问题。他告诉《麻省理工科技评论》，这项实验令人深感不安，尤其是考虑到人工智能的能力自那以后已经有所提升。

现代语言模型能够回答涵盖广泛科学领域的问题。汉堡大学生物安全研究员Dunja Sabra表示，这些系统汲取了人类积累的海量科学知识。它们还可以提供实验指导和教学视频，可能帮助用户从一般信息走向实际的实验室操作。

与此同时，基因编辑和合成生物学也变得更加容易获取。DIY生物学的发展使一些人得以在传统研究机构之外建立实验室。Sabra担心，最终某个意志坚定的个人可能会把人工智能辅助与这些工具结合起来，并成功制造出危险物质。

现有防护措施存在局限

目前已经采取了多项防护措施来降低风险。供应DNA的公司通常会对订单进行筛查，检查其中是否包含与危险生物体相关的序列。研究人员也可能让拟议中的研究接受对抗性审查，请独立专家找出其可能被滥用的方式，然后考虑采取措施降低这些风险。人工智能开发者则调整了系统，阻止用户提出可能促成有害实验的信息请求。

这些措施没有任何一项能保证有效。Magnus将其描述为一场持续进行的较量：防御者不断改进监控和筛查，而恶意用户则不断寻找绕过这些措施的方法。他认为，最终可能需要借助人工智能来发现并限制人工智能本身的有害用途。

以基因驱动技术及其遏制方法研究而闻名的麻省理工学院生物学家Kevin Esvelt也在X平台发布的一篇文章中表达了担忧。他表示，一个大型语言模型向他揭示了一种他此前没有意识到其可能性的生物武器，并敦促人们采取谨慎态度。

Anthropic的报告表明，探索危险生物能力的尝试并非纯属假设。然而，该报告并不能证明当前的人工智能系统能够自主设计并部署一种成功的病原体。这一区别正是专家之间分歧的核心。

科学家对威胁规模存在分歧

在一次媒体简报会上，伦敦帝国理工学院的生物学家表示，现有人工智能工具的能力仍然有限，不足以完成生物武器的研发。他们说，制造和测试一种新型病原体，仍需要实验室人员进行艰难而漫长的工作。一些研究人员认为，对于目前能够现实应对的风险而言，现有防护措施已经足够。

帝国理工学院传染病学教授Wendy Barclay还指出了一个更迫在眉睫的大流行风险来源：已经在自然界中传播的病原体。H5N1禽流感已导致数百万只鸟类死亡，并在美国奶牛群中传播。上个月，人们还在犹他州一家农场圈养的水貂中发现了这种病毒。

Sabra着眼于更长远的未来，关注未来5至10年，而不仅仅是当前的能力。她认为，各国政府应加强卫生系统，为已知毒素准备治疗方法，并维持药品储备。她传达的信息很简单：“我们需要做好准备。”