文章
@AinaPulu

竞争对手坐到一张桌上:OpenAI、Anthropic、Google DeepMind 的数周安全谈判

一、先说发生了什么

三家安全协作时间线与公开信号

9 月 15 日,OpenAI 全球事务主管 Chris Lehane 公开确认,公司已经和 Anthropic、Google DeepMind 就行业主导的 AI 安全标准与安全框架谈了数周(several weeks)。三家是当下前沿模型竞争最直接的对手,平时争人才、争算力、争客户,这次坐下来谈的却是怎样一起给最前沿的能力设边界。Lehane 的表态很短:"It's better to try to work together to prioritize safety.",大意是试着合作、把安全排在前面,这样更好。这句话放在竞争白热化的当口,分量不轻。

消息本身并不突然。The Information 更早就报道过三家在接触,CNBC 与 Bloomberg 这一轮的价值在于把 OpenAI 放到了 on-record 的位置,由公司高管亲口证实。截至发稿,Google 与 Anthropic 对 CNBC 的问询未立即置评,没有正式的永久机构挂牌,也没有任何已签署的统一标准公布。谈了数周,这是目前能确认的全部事实边界。

二、桌上的两份方案

这轮谈话有一个明确的时间起点。CNBC 指出,讨论从 7 月 Demis Hassabis 发布美国主导的 Standards Body 提案起就在持续。Hassabis 的构想是一个公私合作、置于联邦监管之下的自监管组织,他拿来类比的是美国证券业的 FINRA,行业自己制定并执行细则,监管机构在上层握着最终权力。这个类比的用意在于,前沿实验室最了解自家模型的能力与风险,把标准起草和日常执行放在行业内部,比等立法机构从零学起要快,同时又不脱离政府的最终监督。

OpenAI 一侧的框架来自 Lehane 9 月 9 日提出的 policy-window 四轨政策。第一轨是国会层面强制性的、基于能力的国家安全要求;第二轨是州立法,加州的 SB 813、AB 1405、SB 1119、AB 1864 等法案都在其列;第三轨就是 industry-led standards——OpenAI 的措辞是现在就建自愿机制,有没有政府支持都推进;第四轨是全球兼容的标准,包括何时减缓或停止发展这类最敏感的问题。OpenAI 特意给第三轨加了一句限定:行业主导的标准是对强制性联邦保障和民主监督的补充,而非取代。这句限定值得记住,它决定了后文所有关于行业自律的解读都不能越过这条线。

把两份方案放在一起看,Hassabis 提供的是机构形态,OpenAI 提供的是政策坐标,三家谈的这数周,很可能就是在两者之间找交集。

三、Amodei 的 pace 论:慢下来,不是停下来

协作议题对照:标准/评估/信息共享

Anthropic 的立场文件来得最重。Dario Amodei 在 9 月周末前发表了《We Must Pace the Frontier》,标题里的 pace 是整篇文章的关键词:放缓最前沿能力提升的节奏,让风险防控跟得上。他特意划清界限,pace 不等于停训,也不等于停止技术发展,要慢的只是最尖端那一层能力的推进速度。

促使他写这篇文章的是两件事。一是入夏以来递归自我改进(RSI)明显加速,模型参与改进模型的循环比预期转得更快;二是 OAI-HF(OpenAI–Hugging Face)agent swarm 错位事件,一次发生在智能体集群层面的错位。Amodei 没有把矛头只对准别人,他承认行业内包括 Anthropic 自己都出过类似但程度较轻的事件。这两条线合在一起,构成了他判断防控节奏已经落后于能力节奏的依据。

文章给出的是三步递进的方案。第一步是 Embedded Evaluators,嵌入式评估员。像 METR 这类第三方评估机构应当获得员工级别的持续访问权限,能像内部员工一样长期看到模型的真实状态。他用的类比是银行的驻场监管,监管人员常驻在机构内部,看到的是每天的真实运转。Anthropic 在这一点上选择单边先承诺,不等其他家同意就先做。第二步是 Democratic Coordination,民主国家的前沿实验室就共同安全标准达成一致,并对可能失控的进度加以限制;他坦承其中部分形式需要政府调解,甚至需要窄范围的反垄断豁免,否则竞争对手之间的协调会有法律障碍。第三步是 Global Coordination,与威权政府开展有限、可验证的合作,分成 Level 1 到 Level 4 四个层级,从生物武器禁令这类最低限度的共识,一路到全面暂停。他对最高层级的态度相当克制,直言接近全面暂停的方案极难达成。

这个三步结构有一个内在逻辑:先把自己家门打开接受检查,再在价值观相近的国家之间对齐标准,最后才去处理最难的地缘政治协调。三家实验室目前谈的数周,大致落在第一步和第二步之间。

四、Hassabis 与 Altman 怎么回应

自愿边界与监管窗口示意

Amodei 的文章发出后,另外两家的一号人物都做了公开表态。Hassabis 称文章方向正确,这与他 7 月的 Standards Body 提案在精神上一致,两人对行业内部先协调、政府监督在上这条路径的判断接近。

Sam Altman 的表态更值得细读。他说同意对最先进模型 pace,并透露减速是 OpenAI 近几周的 primary topic,承诺 soon 会有更多分享。这里有两个信息点,一是 OpenAI 内部已经把减速当作主要议题在讨论,时间跨度是近几周,与 Lehane 说的数周谈判在时间上重叠;二是 soon 这个词预示后续会有更具体的动作或文件。以 OpenAI 过去在发布节奏上的激进程度衡量,公司 CEO 公开说要给最先进模型减速,本身就是一个值得记下的转向信号,尽管目前只有口头承诺。

五、policy window 与反垄断噪声

这几天围绕三家谈话最容易跑偏的解读是反垄断。竞争对手坐在一起谈标准,天然会引来是否需要 antitrust waiver 的追问。Bloomberg 报道给出了 OpenAI 的立场:公司认为不需要反垄断豁免也能谈安全协调。这与 Amodei 文中的表述有微妙差别,Amodei 承认 Democratic Coordination 的部分形式需要政府调解或窄豁免,OpenAI 则认为当前阶段的安全标准谈判不触碰这条线。两种说法并不矛盾,区别在于谈的是哪个阶段的事,眼下三家讨论的是安全标准与安全框架,Amodei 所说需要豁免的场景,是对失控进度加以限制的更深层协调。

回到 OpenAI 的 policy-window 框架,industry-led standards 只是四轨中的一轨。它的位置很明确,在国会强制要求和州立法之外,行业先把自愿机制建起来,等联邦立法到位后作为补充嵌入。这种安排让反垄断问题在当前阶段的重要性下降,行业标准既不取代政府监管,也不划定市场边界,它的功能是填补立法周期留下的时间空档。把这次谈话读成一场豁免大战,会错过它真正的意图。

六、克制地看这件事

把上述信息拼起来,可以得出几条边界清楚的判断。

其一,三家谈的是行业自愿机制,OpenAI 与 Hassabis 的方案都把它定位在联邦监管之下的补充层,没有人在主张用行业标准替代法律。Amodei 的 Embedded Evaluators 是目前最具体、也最容易落地的一项,Anthropic 已经单边承诺,其他两家是否跟进,将是检验这轮谈话成色的第一个指标。

其二,截至发稿没有任何正式的永久机构挂牌,没有已签署的统一标准文本,Google 和 Anthropic 对 CNBC 未即时置评。数周的谈判目前只有 OpenAI 一方的 on-record 确认和三位负责人各自的公开表态,机构化的成果还需要时间。

其三,竞争没有停。pace 针对的是最前沿那一层能力的推进速度,三家在产品、客户和市场份额上的争夺不受此影响,Amodei 自己也强调 pace 不是停训。所谓的安全协作,更准确的描述是竞争者在一条特定边界上的暂时对齐,离结盟还远。

其四,Altman 说的 soon 与 Lehane 四轨里现在就建的措辞,给了一个可以观察的时间窗。接下来几周如果三家能拿出联合的评估准入承诺、共同的能力阈值定义,或者一个哪怕是过渡性的协调机制,这轮谈话就从姿态变成了实质;如果只是继续各自发表立场文件,它更接近一场面向立法者的公关协调。目前的公开信息都指向前一种可能,但证据还不足以下结论。

前沿实验室之间的安全协调,这一次少见地凑齐了几个条件:三家一号人物在同一个月内公开表态,桌上有一份具体到分步方案的立场文件,还有一家已经单边承诺开门接受评估。数周的谈话能否变成一份签字的文件,几周之内应当有答案。