据《The Information》报道,OpenAI 首席执行官萨姆·奥特曼(Sam Altman)近日在一次内部员工会议上,阐述了 AI 竞争可能出现的三种结局:
其一为创建全球性监管机构,其二为顶尖实验室合并成一个整体,其三则是某家企业率先攻克关键技术,甚至具备让竞争对手硬件无法运作的能力。
奥特曼将最后一种结局比作科幻电影情节,并直言这是“极其糟糕”的走向。
三条路径,各附代价
Altman 所指的第一条路径,是构建一个类似国际原子能机构(IAEA)的全球监管组织。
该组织可对最先进的 AI 系统实施监督,订立统一的安全准则,并要求开发企业接受独立的审查。
早在 2023 年 5 月,Altman 就与 OpenAI 联合创始人 Greg Brockman、时任首席科学家 Ilya Sutskever 联名发表了文章《超智能治理》(Governance of Superintelligence)。
文章指出,未来可能需要成立类似 IAEA 的国际机构,对达到特定能力或算力门槛的 AI 开发活动进行监管,涵盖系统检查、安全审计、合规测试,以及算力和能源消耗的监控。
然而,AI 已成为各国重点投入的战略技术,国际监管涉及技术保密、国家安全与产业竞争。各国能否接受统一规则,仍存在巨大的不确定性。
第二条路径是全球领先的 AI 实验室最终可能合并为一个机构。
Altman 称之为“Demis 方案”,Demis Hassabis 曾提议,AI 研究可借鉴欧洲核子研究中心(CERN)的模式,由多个国家共同建设和运营一个大型研究机构。
若头部 AI 公司由同一组织统一管理,便能共享安全标准和实践经验,避免各企业为抢先发布产品而持续加速研发。
但若最先进的模型、人才和算力全部集中于一个组织,该机构将拥有巨大的技术和经济影响力,如何防止权力过度集中,又会成为新的挑战。
第三条赢者通吃路径被 Altman 称为“Eliezer 方案”,源自 AI 安全研究者 Eliezer Yudkowsky 提出的一类极端设想。
Yudkowsky 长期警告,失控的超级智能可能给人类带来生存风险。他曾主张,率先掌握超级智能的一方需采取果断行动,阻止其他组织开发潜在危险的超级智能系统。
Altman 将其与递归自我改进(Recursive Self-Improvement,RSI)联系起来。
所谓 RSI,即 AI 能够参与改进自身的模型架构、训练方法或开发流程。升级后的 AI 又能继续增强这些能力,形成持续的自我改进循环。
一旦这种机制达到足够高的自主化程度,AI 研发速度可能显著加快。
若某家公司率先突破 RSI,就可能迅速建立其他竞争对手难以追赶的技术优势,最终形成市场垄断。
在最极端的情况下,这家公司甚至可能拥有干扰或破坏竞争对手 GPU 的能力。
对于这种将先进 AI 集中在单一企业手中的结局,Altman 明确表示了反对。
Altman 反复强调的风险
事实上,这次内部讨论延续了 Altman 此前一贯关注的问题。
2026 年 9 月中旬,Altman 曾公开指出,先进 AI 可能带来两大主要风险:一是人类失去对 AI 系统的控制,二是 AI 权力集中在少数组织手中。
他进一步强调,必须避免 AI 发展走向上述任何一种结果。
他表示,OpenAI 应当站在全人类的立场上,而不能只服务于某家公司或某个利益集团。Altman 还呼吁建立更严格的 AI 安全协议,并对先进 AI 系统开展独立评估。
这一立场与 Anthropic CEO 达里奥·阿莫迪的部分观点一致。
然而,Altman 也在内部承认,OpenAI 目前无法轻易放弃与竞争对手争夺技术领先地位。