我们正站在人类技术史的转折点上。人工智能已经从学术实验室和专业应用走入大众视野与日常生活。然而，与过去历经数十年才逐步展开的技术革命不同，人工智能变革正以惊人的速度发生。这种加速既带来了前所未有的机遇，也带来了重大风险——而我们在这一关键窗口期作出的决定，将在未来数代人中持续产生影响。
我们正处于怎样的人工智能时刻
过去几年见证了人工智能能力的显著突破。大型语言模型能够完成复杂的推理和创造性任务。计算机视觉系统在专业领域的表现超过人类。人工智能驱动的药物研发正在加速医学突破。这些进展代表着切实的进步，有望帮助解决人类面临的一些最紧迫的挑战。
然而，同一项技术也引发了关于经济颠覆、隐私、安全和权力集中的深刻问题。我们正在进入一个或许可以称为“动荡的人工智能时代”的时期——能力爆炸式增长，同时人们对其影响和结果存在巨大的不确定性。
这种动荡的根源并不主要在技术层面，而在社会、经济和制度层面。我们拥有了强大的新能力，但监管框架、商业模式和社会制度尚未跟上。这种滞后既带来了危险，也创造了机遇。
利益攸关之处非同寻常
要理解为什么我们现在作出的选择如此关键，不妨考虑人工智能潜在影响的规模。人工智能可以提升几乎所有行业的生产力——医疗、教育、农业、制造业、科学研究，以及更多领域。如果得到恰当的开发和部署，人工智能有望加速应对气候变化、根除疾病和消除贫困的进程。
但同一项技术也可能以空前的方式集中权力。基于有偏见数据训练的人工智能系统会延续并放大历史上的不公。自主武器系统引发了关乎军事存续的担忧。由人工智能驱动的大规模监控威胁着隐私与自由。缺乏充分社会保障的经济颠覆可能加剧不平等和社会不稳定。
结果并非命中注定。我们并不是在旁观某种不可避免的技术宿命展开。相反，我们正在作出选择——有时是明确的，更多时候则是隐性的——决定人工智能将如何发展和部署。
选择会产生影响的关键领域
负责任的开发与部署
开发先进人工智能系统的公司面临着有关安全、伦理和获取权限的关键决策。在部署系统之前，他们会进行多么彻底的测试？他们是否会考虑下游危害？他们是否会如实说明能力和局限？他们是只向富裕国家和组织提供这些系统，还是会推动普惠性获取？
这些并不是只有唯一正确答案的纯技术问题，而是涉及真正的权衡。快速部署能够加速有益应用，但也会增加意外后果的风险。限制获取可以防止滥用，但可能集中权力，并减缓发展中国家的进步。
不过，有些原则似乎是明确的：人工智能系统应接受严格的安全性和安保测试。开发者应开展影响评估，审视潜在危害。在系统影响人们生活中的重大决策时，应确保其可审计、可解释。开发者应对局限性保持透明，并应考虑其系统可能遭到滥用的方式。
治理与监管
世界各国政府都面临着如何监管人工智能的决策。监管应当宽松灵活，还是全面审慎？应当监管哪些方面——刑事司法或招聘等高风险应用，还是更广泛的类别？谁应当制定标准：单个公司、行业组织、国家政府，还是国际机构？
这些问题没有简单答案。过于严格的监管可能扼杀创新，并将开发活动推向问责性更低的司法辖区。监管不足则可能放任严重危害发生。不同应用应采取不同的监管方式。用于刑事司法的系统，需要比生产力工具严格得多的监督。
有一点似乎很明确：治理不能完全交给市场力量或个别公司。市场能够提供重要激励，但不足以应对外部性并确保广泛的公共利益。某种形式的集体治理——通过监管、标准制定、透明度要求和公共监督——似乎是必要的。
确保广泛的获取与受益
从历史上看，强大的技术往往会将利益集中在富裕和有权势者手中。广播、电视、计算机和互联网的普及都曾呈现类似模式：早期采用者和富裕国家获得的优势持续了数年乃至数十年。
在人工智能领域，我们有机会做得更好。如今对开放标准、可获取的培训资源和技术转让作出的决定，有助于确保人工智能的收益不会集中在少数富裕国家和大型科技公司手中。
这需要有意识的选择：投资发展中国家的人工智能研究；在适当情况下开放基础模型和工具的源代码；确保数字基础设施覆盖服务不足的人群；支持专注于解决低收入国家所面临问题的人工智能应用。
应对劳动力市场的颠覆
人工智能很可能会自动化大量工作类别。与以往的自动化浪潮不同，这一次受到影响的可能不仅是制造业和体力劳动，也包括白领工作和专业服务。
这既带来风险，也带来机遇。若缺乏周密准备，人工智能驱动的岗位流失可能加剧不平等和社会不稳定。若规划得当，它则可能将人类从重复性任务中解放出来，使人们专注于创造性、人际交往和战略性工作。
应对这一问题，需要在人们接受的教育和培训、社会保障、税收政策及商业模式方面作出选择。我们是否应当帮助劳动者掌握新技能？创造新的就业形式？保障基本收入？调整税制以应对自动化？这些不仅是政策问题，也是关乎我们希望建设何种社会的根本选择。
为什么这一时刻格外关键
有几个因素使未来几年显得尤其重要：
影响的窗口期很短。 技术系统会形成惯性。早期设计选择、既有实践和网络效应一旦形成，就很难改变。现在制定的标准很可能会持续多年。如果我们任由有问题的模式根深蒂固，改变方向就会困难得多。
关键制度仍在形成。 人工智能的行业标准、监管框架和治理机构仍处于发展之中。现在，我们仍有真正的机会塑造这些制度。五年后，它们可能已经更加成熟，也更难以改变。
公众关注仍然存在。 人工智能仍是公众广泛关注和担忧的话题。这为治理和监管创造了政治空间。但这一窗口不会永远敞开。有效的治理框架要么会逐渐形成，要么时机将会过去，治理也会变得更加困难。
能力前沿仍在一定程度上可以被影响。 目前最先进的人工智能能力集中在相对少数的组织手中。在能力进一步集中之前，我们仍有机会确立规范、治理机制和安全实践。
良好的选择应当是什么样
有效应对人工智能动荡，并不要求停止进步或阻止创新。相反，这需要：
审慎的治理： 建立轻量但清晰的监管框架，为高风险应用设立护栏，同时允许低风险领域持续创新。这很可能需要按行业采取相应方式，而不是制定一套适用于所有领域的规则。
稳健的安全实践： 人工智能开发者应将安全视为首要事项，而不是事后补救。这意味着在部署前彻底测试系统，保持人类监督，建立稳健的反馈机制，并在风险显现时愿意暂停部署。
透明度与问责： 影响重大决策的系统应当可审计、可解释。开发者应对能力和局限保持透明。当系统造成伤害时，应当有相应的问责机制。
公平获取： 有意识地确保人工智能的收益不会集中在富裕和有权势者手中。这意味着支持发展中国家的人工智能研究与开发，推动开放标准和开源工具，并优先发展能够解决服务不足人群所面临问题的应用。
投资于适应能力： 通过教育、培训项目和社会政策，为人工智能带来的经济颠覆做好准备，帮助人们在人工智能增强的经济中实现发展。
国际合作： 人工智能的发展不受国界限制。有效治理需要各国在标准、安全实践和新兴风险应对方式方面开展协调。
个人能动性的作用
有人可能会问：当巨大的技术和经济力量发挥作用时，个人的选择还能产生影响吗？答案是肯定的——但前提是许多人都作出审慎的选择。
技术专家可以选择负责任地开发人工智能，考虑技术可行性或盈利能力之外的更广泛影响。他们可以推动所在组织采取安全实践、提高透明度并促进公平。他们可以选择致力于真正关乎人类福祉的问题，而不仅仅是追逐有利可图的问题。
企业领导者可以选择兼顾股东以外其他利益相关者的治理模式。即使竞争对手没有这样做，他们也可以投资于负责任的人工智能开发实践。他们可以支持公平获取，并帮助应对劳动力市场的颠覆。
政策制定者可以选择投资于理解人工智能，制定鼓励负责任开发、同时防止危害的框架，并确保人工智能政策服务于广泛的公共利益，而非狭隘的私人利益。
公民可以参与人工智能政策问题，支持认真对待这些议题的政治人物，并要求公司和政府优先进行负责任的人工智能开发。
展望未来
动荡的人工智能时代不会自行结束。它将由各种选择塑造——由构建这些系统的技术专家、决定如何部署系统的企业领导者、建立治理框架的政策制定者，以及参与这些决策的公民共同塑造。
这些选择从根本上关乎我们希望建设怎样的未来。我们希望人工智能的收益广泛惠及社会，还是集中在精英群体手中？我们希望人工智能系统增强人类的能力和自主性，还是削弱它们？我们希望人工智能的发展由安全和人类福祉驱动，还是纯粹由能力和利润驱动？
这些不是有客观正确答案的技术问题，而是需要广泛公共讨论和参与的价值问题。这正是个人选择重要的原因。越多人在职业角色和公民身份中审慎地参与这些问题，我们就越有可能明智地度过这一动荡时代。
人工智能革命已经到来。它的发展轨迹并非命中注定。我们现在作出的选择将在未来数十年持续回响。我们有机会塑造这些选择。我们是审慎地作出选择，还是任由各种力量塑造我们的未来，将决定人工智能最终会成为促进广泛人类福祉的工具，还是集中权力、延续不平等的机制。
作出选择的时刻，就是现在。