OpenAI在备受争议的AI成果之后成立数学家委员会

据The Verge报道，OpenAI成立了一个由数学家组成的独立委员会，就应如何评估、传播和发布数学研究向OpenAI及其他人工智能公司提供建议。此举发生在一系列备受瞩目的AI生成成果之后，这些成果损害了该公司在研究人员中的声誉。

这个由9人组成的机构名为数学与人工智能咨询小组（Advisory Group on Mathematics and Artificial Intelligence），简称AGMAI，由位于新泽西州普林斯顿的高等研究院（Institute for Advanced Study）负责承办。该机构是最知名的数学研究中心之一，过去曾与阿尔伯特·爱因斯坦、约翰·冯·诺伊曼和J·罗伯特·奥本海默等人物有联系。

该委员会成员包括来自斯坦福大学、哈佛大学、牛津大学和剑桥大学等高校的资深学者。其中数人曾获菲尔兹奖，另有数人是麦克阿瑟奖学金获得者。如此集中的学术成就令该小组立即获得了公信力，但也引发了担忧：它或许无法反映最顶尖院校之外的数学家的经历。

权力广泛但细节未定的委员会

OpenAI表示，AGMAI可以在未被征询的情况下主动提供建议，公开评论公司对数学的影响，并发布自己的建议。预计该委员会还将提前获得OpenAI研究成果。其成员不会由公司支付报酬，而且小组可以自行调整成员构成。

拟议中的工作涵盖多个方面：判断新出现成果的重要性，协调成果发布，考虑职业和学术标准，以及研究AI系统如何协助数学研究和教育。OpenAI表示，该小组能否发挥作用，取决于其成员是否愿意挑战公司，而不是简单地认可公司的计划。

然而，这一安排仍然缺乏明确界定。The Verge采访的数学家希望了解AGMAI将拥有多大权限、成员是如何选出的，以及OpenAI是否会遵循其建议。该委员会网站提供的组建信息很少。网站称，OpenAI最初联系了一些数学家，讨论创建一个外部委员会；随后，相关讨论促成了一个独立的外部组织的成立，并吸纳了更多成员。

该小组成员、帝国理工学院和洛桑联邦理工学院（EPFL）数学教授Martin Hairer在一篇博客文章中回应了这些疑虑。他说，并非所有成员都曾与OpenAI接触，并坚持认为，最终成立的小组独立于该公司及其他主要AI实验室。他表示，除了一般的保密义务外，成员没有接受任何限制其公开发言的规定。高等研究院提供技术支持，而数学家不会从OpenAI获得报酬。

Hairer表示，AI已经改变了数学研究，并提出了有关署名、优先权，以及人类是否理解借助机器产生的思想等棘手问题。他认为，拒绝与AI公司接触并不能解决这些问题。与此同时，他也承认，这9名数学家不能被视为整个数学界的代表性样本。

代表性问题

委员会成员构成已经成为其主要软肋之一。数学分为高度专业化的领域，一个小型小组可能不具备评估整个学科各领域成果所需的专业知识。研究人员对于AI如何影响他们的工作、职业和所在机构，也存在明显分歧。

即将担任赫瑞-瓦特大学教授的Francesco Fournier-Facio告诉The Verge，让更多数学家参与进来可能会改善情况，但他质疑AGMAI是否反映了这样一群人：他们的工作正因OpenAI追求重大数学成就而受到冲击。他形容该小组像一座“象牙塔”。

苏黎世联邦理工学院（ETH Zurich）研究人员Simon Machado同样质疑，享有众多荣誉的学者是否能够代表那些面临更普通职业压力的数学家。他说，委员会的成立“笼罩在神秘之中”，并对其成员是否适合代表更广泛的AI政治和社会问题表示怀疑。

AGMAI能否不仅仅为OpenAI的传播策略提供一个受人尊敬的名号，将取决于信任。Hairer警告称，AI公司可能会以有利于自身公关工作的方式呈现委员会的意见。尽管如此，他仍认为，应当以改善公司行为的努力回应其愿意参与的态度，尤其是在公司近期成果的公布和解释方式受到批评之后。

大量存在争议的成果尚待发布

委员会的首项重大任务已经确定。OpenAI表示，一个尚未发布、解决了纳维-斯托克斯千禧年大奖难题的模型，还解决了数学多个领域中100多个长期悬而未决的问题。该公司此前曾表示，正在接近另一个千禧年大奖难题。

因此，AGMAI被要求帮助管理OpenAI所称的大批等待发布的重要成果。挑战不仅在于这些主张是否正确，还在于应如何对其进行验证、署名、解释，并向研究人员传播。

Hairer表示，该小组仍在决定将提出哪些建议。成员正通过与同事讨论、公开反馈表，以及在Proofs and Prompts上的交流来收集意见；Proofs and Prompts是一个关注数学家如何回应AI的博客。该委员会能否成功，将取决于这种咨询是否能超越其声望卓著的创始成员范围，也取决于OpenAI是否会在建议令人不便时接受审视。