Anthropic、OpenAI、谷歌秘密磋商筹建AI安全标准机构

　　据知情人士透露，早在 Anthropic 首席执行官达里奥・阿莫代伊上周六呼吁 AI 企业协同开展技术测试与审计之前，Anthropic、OpenAI 与谷歌就已经展开磋商，计划携手成立一家 AI 行业标准机构。

　　知情人士称，OpenAI 首席执行官山姆・奥特曼本周早些时候在公司全员员工大会上表示，他支持设立 AI 行业测试与审计机构，但他认为，主要 AI 实验室必须在美国政府不提供支持的前提下，自行组建这套标准组织。

　　阿莫代伊上周六发布博文《我们必须把控前沿发展节奏》，提出一整套提议，主张放缓 AI 发展速度，在 AI 能力日益强大、风险不断攀升的背景下建立独立监督机制，行业自我监管正是整套方案中的重要一环。阿莫代伊提出，政府着手制定 AI 监管法规的同时，企业可以先行推行自愿性安全标准，政府可以牵头或者斡旋行业对话。

　　阿莫代伊在 X 平台发布的博文迅速得到一众科技巨头的公开支持。奥特曼发文称，放缓前沿 AI 的研发节奏，已经是 OpenAI 近几周内部反复讨论的议题。刚刚卸任谷歌 DeepMind 首席执行官的德米斯・哈萨比斯表示，该提议大方向正确，但部分细节 “仍有待打磨完善”。SpaceX 首席执行官埃隆・马斯克同样对阿莫代伊的方案表示赞同。

　　设立 AI 自我监管机构的构想，已经在公开舆论场讨论数月之久。今年 7 月，哈萨比斯发布推文，提议参照美国金融业监管局（FINRA）的模式搭建 AI 自律组织。FINRA 负责监管美国券商与证券从业人员。

　　不过，各家企业已经开始就行业标准制定开展协作谈判，这一点此前并未被媒体报道。知情人士透露，自 7 月起，谷歌、Anthropic、OpenAI 就组建标准机构一事，由 CEO 层级之下的代表成立工作组定期开会磋商。

　　The Information 此前报道，白宫曾传阅一份行政命令草案，拟设立上述监管机构，但今年夏末，这份方案未能在特朗普政府内部争取到足够支持，相关工作就此搁置。前白宫 AI 主管戴维・萨克斯一直公开反对建立类似 FINRA 的 AI 监管机构，他不赞同政府介入此事。据政治新闻网站 Politico 报道，Meta 首席执行官马克・扎克伯格也在 8 月与特朗普总统的电话会谈中，对全国性 AI 监管机构的方案表达担忧。

　　知情人士转述，奥特曼在本周员工大会上称，虽然他原本乐观期待政府能够出面支持标准机构落地，但目前行业内部尚未形成充分共识，部分企业对该构想持反对态度，因此最佳路径是联合其他 AI 实验室自行推进。奥特曼在同一场员工大会上向员工表示，OpenAI 自身也愿意放缓研发推进速度。

　　知情人士称，三家企业关于行业主导标准机构的工作组会议仍在持续进行。这表明，除高管们高调公开发声、抛出各类倡议之外，三家实验室已经有实际行动的意愿。其中一位知情人士透露，工作组就在刚刚过去的一周还召开过会议。

　　目前尚不清楚 Meta 对此事的立场。Meta 首席 AI 官亚历山大・王周六在 X 平台发文写道：“对齐是面向全民打造个人超级智能的根基。” 这句话指 AI 系统行为要贴合人类指令意图，但他并未明确表态支持或是反对阿莫代伊的整套提议。

　　近期 Anthropic 员工在 X 平台发布的多条博文广泛传播，再度引发公众对强 AI 潜在风险的关注。一名 Anthropic 研究员宣布离职，理由是 Anthropic 与 OpenAI 两家公司均 “未能履行应尽责任”；另一名在职 Anthropic 员工表示，公司内部真心相信 AI 有可能对人类构成生存级威胁。

　　阿莫代伊周六提议，各家头部 AI 公司应当向METR（模型评估与威胁研究机构）这类外部评估方开放等同于内部员工等级的技术访问权限，并且 Anthropic 承诺会率先落实该举措。他同时呼吁政府出台有限反垄断豁免，允许 AI 企业开展安全领域协作，避免触碰反垄断红线。

　　萨克斯在 X 平台发文称，AI 企业完全可以自主推进安全相关工作，并不需要反垄断豁免作为协作前提。但他质疑，研发放缓是否完全出于利他考量；产品责任风险本身就已经构成经济激励，促使企业防范 AI 带来伤害。

　　行业内部也出现不少批评声音。Cohere 首席执行官艾丹・戈麦斯在 X 发帖，对头部 AI 企业共同制定规则、约束中小竞争对手的做法表达担忧，他写道：“这套想法听上去，活脱脱一个卡特尔（垄断同盟）的构思。”