代码旅行

读了 Dario Amodeis 的最新文章，觉得他扯的不行，这篇文章更像是一次“政治游说政治呼吁”。

• 把“AI 帮人写代码做实验”说成是已经开始的递归自我改进

  虽然现在很多开发的工作交给了 AI，但是这也只是人机加速而已，而非真实的 AI 系统自主设计并训练自己的下一代，相信 Amodei 应该知道人机研发加速并不是已开始的 RSI。

• 从一次 OAI–HF 事件直接跳到“6–12 个月接管互联网”

  METR 对这次事件的复盘写得也很清楚，动机很大可能是搞清评分器怎么实现，并不是要占领基础设施，而且对人类直接欺骗并不普遍。Amodei 却用“同等错位，更高能力，持久 botnet，数千亿美元”等来做外推，当成近一年内的定论。

• 所谓的“民主国家协调”在实力上不成立

  现在能追赶甚至比肩美国的只有中国，那些所谓的“民主国家俱乐部”的国家实力落后了好几个身位。Amodei 却把第二名的中国写成政体问题，再让没有同等实力的国家来“一起控速”，其实就是混淆视听，变相的把美国标准说成多边标准。

• 控速“几乎不牺牲战略优势”不成立

  Amodei 一边说把 RSI 从“极快”降到“较快”几乎不丢优势，一边又说绝不能让中国因美国减速而反超，必须卡芯片守权重等，完全互相矛盾。若减速真的战略无伤，就不必把封锁写得那么死；若领先薄到必须要靠封锁来，减速就不是中性安全措施。

• “Race to the top” 只是个口号

  口头是公司靠更安全来竞争，但内容却要政府强制同行接受驻场评估、反垄断豁免好让公司一起限速、出口管制挡住追赶者。那是把竞争从市场上撤走，改由标准和海关执行，这干的难道不是准入和封锁的活？！

• 驻场评估被说成激进透明，但谁定义安全标准，这个标准又怎么可能统一？

  不同系统、部署、社会，风险是不一样的；公共开源模型、医院内部模型、军事模型、各类 agent，各种 AI 产品，该防的东西也不同；甚至对齐目标也不相同：有人要最大拒答，有人要最大可用，有人要本国法律优先，有人要宪法式原则。

  所以 Amodei 强行一套“前沿检查点”，实际检查的往往不是并不是安全，而是像不像他们的做法，符不符合他们定的规则。

可以推断下他这篇文章的动机：

• 把安全定义权收拢到自己这一侧，让他成为所谓安全标准的制定者

• 用国家力量冻结排名，并把中国从规则制定里剔除

其实，把加速说成已至的 RSI，把一次 Agent 集群事故说成近在眼前的断网级灾难，把美国制定说成民主国家的集体事业，把封锁说成对战略无伤的安全配套，就是他这篇文章的戏，回头看看他们的训练并未停，发布也未停，他定义里本就可以继续训继续发，而被真正改的是别人的资格和追赶工具，并不是他自己的斜率承诺。