从Anthropic的“配速”倡议，看AI行业的速度与安全之争

当AI开始调用工具、持续执行任务，甚至多个智能体协同行动，风险也从“答错一道题”升级为“做错一连串事”。站在最前沿的AI公司负责人，为什么主动提出减速？

这一次，AI行业开始谈论“配速”。

9月12日，Anthropic首席执行官达里奥·阿莫代伊发表长文《We Must Pace the Frontier》，提出应该放慢前沿AI能力提升的节奏，让安全研究、测试和监管有时间跟上。随后，OpenAI首席执行官萨姆·奥尔特曼等行业人士也表达了支持。

这并不意味着AI公司准备停止训练模型。真正的关键词不是“停”，而是“配速”：能力每向前走一步，安全措施、独立验证和社会治理也要跟上一步。

为什么偏偏是现在

过去，人们担心AI，更多是因为它可能胡编答案、生成虚假内容或者泄露隐私。如今，风险正在发生变化。

新一代AI已经不只是坐在聊天框里回答问题。它可以调用软件、访问网络、编写和运行代码、处理文件，还可以把复杂任务拆分给多个智能体协同完成。

这意味着，一次错误不再只是一句话说错了。一个拥有工具、权限和长时间运行能力的智能体，可能连续执行许多错误操作；多个智能体协同时，行动速度和影响范围还会进一步扩大。

阿莫代伊把今年发生的AI智能体安全事件视为警报。他担心，如果未来模型能力继续快速增强，而约束机制没有同步升级，相似的智能体集群可能把局部安全问题放大为大规模网络风险。

他警告称，如果约束机制没有同步升级，未来6至12个月内，类似上述事件中的智能体集群可能具备通过持续性僵尸网络大规模控制互联网的能力。

需要特别说明：这是他在特定条件下作出的风险推演，不是对必然结果的预测，也不是科学界已经形成的统一结论。

《2026年国际AI安全报告》给出的判断更为谨慎：当前AI系统已经表现出一些与失控风险相关的早期能力，但还没有达到能够造成失控的水平；专家对这类风险发生的概率、时间和严重程度仍存在很大分歧。

所谓减速 到底要怎么减

阿莫代伊提出了三个层次的方案。

第一步 让独立评估者真正进入企业内部

目前，公众看到的AI安全信息，大多由开发模型的公司自己选择和公布。外部机构通常只能测试已经发布的产品，很难看到训练过程、内部事故和完整记录。

Anthropic承诺引入常驻的第三方评估团队，让其获得接近内部安全人员的工具和权限，检查企业是否履行安全承诺、评估训练流程，并在必要时公开重要发现。

这类似于给前沿AI实验室增加长期驻场的“安全监督员”。评价一套AI是否安全，不再只听开发者怎么说，而要让独立机构看到证据。

第二步 让同行采用共同的安全标准

如果只有一家公司主动减速，而竞争对手继续全力冲刺，谨慎的一方可能在商业竞争中处于不利位置。因此，第二步需要多家前沿AI公司建立共同标准。

一种设想是设置“安全检查点”：当模型达到某种危险能力，例如能够突破常见隔离环境时，就必须先通过更严格的评估、可解释性分析和训练环境审计，才能继续扩大能力或部署范围。

它不是简单规定“每年只能发布几个模型”，而是把能力与安全条件绑定：能力越强，需要提供的安全证据越充分。

第三步 推动全球协调

AI竞争并不只发生在公司之间，也发生在国家之间。如果部分国家减速，而其他国家不受约束，协议就很难持续。

因此，第三步是寻求国际协调，从禁止AI参与生物武器等明确危险用途，到建立共同测试标准，再到讨论对AI自我加速研发设置“速度限制”。

这一步也是最困难的，因为它涉及技术验证、国家安全与国际互信。

都知道有风险 为什么还是难踩刹车

谁先减速，谁就担心被别人超过。

前沿模型需要巨额算力、人才和资金投入。企业必须向投资者证明自己仍在领先；国家也担心在关键技术竞争中落后。即使每个参与者都认为整体速度过快，单独减速仍可能付出巨大代价。

这就是典型的“竞赛困境”：每个人都想更安全，但没有人愿意成为唯一慢下来的那个。

不过，外界对这一倡议的动机也存在质疑。有分析人士指出，推动“安全标准”成为行业共识，客观上可能有利于已经在安全与合规方面投入较多的头部公司，同时对资源有限的追赶者形成隐性门槛。

这种动机推测目前没有得到证实，但提醒人们：评价企业的安全主张，不仅要听公开表态，也要观察它是否接受独立审查、是否兑现具体承诺。

因此，真正有效的减速不能只靠企业负责人的自觉。它至少需要三样东西：可以检查的共同标准、相对独立的外部评估，以及覆盖主要参与者的协调机制。

我们应该感到恐慌吗

不必把这次讨论理解为“AI马上要失控”。现有证据并不支持这样的确定性结论。

但也不能因为灾难尚未发生，就认为风险只是科幻故事。AI智能体获得的工具、网络访问和操作权限越多，一次失误可能造成的现实影响就越大。即使不出现极端的“失控”，错误交易、数据泄露、自动化网络攻击和关键系统误操作，也已经足够值得重视。

对普通用户而言，更现实的安全原则是：

• 不要把支付、删除数据、公开发布等高风险权限一次性交给AI；
• 重要操作保留人工确认，不把“能自动完成”误认为“可以无人监督”；
• 使用企业AI工具时，弄清数据会被发送到哪里、保存多久；
• 对AI作出的医疗、法律、金融和安全判断进行专业复核。

结语

这场争论真正值得关注的，不是哪位企业负责人说出了最吓人的预测，而是AI行业开始承认一个现实：模型能力、安全技术和治理速度之间，已经出现了越来越明显的时间差。

汽车变快以后，人类发明了刹车、安全带、交通规则和碰撞测试。AI也需要类似的基础设施。

“放慢一点”并不是放弃创新，而是为验证、纠错和建立规则争取时间。未来真正可靠的AI竞争，或许不只是看谁跑得最快，还要看谁能证明自己在高速前进时依然可控。

一个月，3000万用户。

9月4日，阿里巴巴披露，千问办公在中国市场公测上线一个月，总用户数已突破3000万，其中超过一半为企业用户。这组由企业公布的数据很抢眼，但更值得关注的是：为什么一款办公AI，会在短时间里吸引这么多人试用？

答案可能藏在一个人人熟悉的麻烦里。过去，我们让AI写一段文字、整理一份摘要、分析一张表，最后仍要自己复制到Word，重新搭PPT，再把数据、图片和格式逐个搬过去。AI负责生成一段，人负责把这一段变成能交付的东西。

千问办公瞄准的正是这段“最后一公里”：让AI少停留在回答框里，开始向文档、表格、PPT、网页和多媒体等可交付成果推进。

一个月3000万 背后不只是多一个聊天框

千问办公由阿里巴巴在8月3日开放公测。官方介绍显示，它整合了Qoderwork、Mulerun和悟空的核心能力，把桌面智能体、云端智能体和企业协作智能体放进同一平台。

这句产品介绍听上去有点技术化，换成日常语言，就是它希望接住一整段办公流程：先读取材料，拆解任务，再调用文档、表格、PPT、网页、图片或视频等能力，最后把结果以文件或页面的形式交出来。

阿里巴巴还称，千问办公首月完成了120个版本更新，推出超过1000项新功能。数量不等于质量，但密集迭代至少说明，办公智能体的竞争已经从“模型会不会答”转向“产品能不能做完”。

它想砍掉的是办公室里的复制粘贴

假设你要做一份项目汇报。传统用法是先让AI提炼材料，再把答案粘进Word；接着请它列PPT大纲，自己去演示软件里重搭；数据还要回到表格里计算，最后再手动统一标题、图表和页面风格。

在千问办公的设想里，这些步骤可以放进同一个任务里：把参考资料交给它，说明汇报对象、页数、重点和输出格式，让它整理材料、生成文档或PPT，再根据反馈继续修改。官方界面还会在任务执行过程中追问输出格式、重点方向等信息，而不是只吐出一段通用答案。

这并不意味着文件拿来就能直接发布。数字、引用、版式和业务判断仍要人工复核。真正节省的是搬运、转换和重复排版的时间。人不一定少做判断，但会少做很多搬运。

网页 桌面 钉钉 三个入口接不同的工作状态

目前，千问办公已提供网页端、桌面端和钉钉内嵌入口。网页端适合临时使用，打开浏览器即可开始；桌面端可以在用户授权后读取本地文档、表格、图片和视频，并将处理结果保存回指定文件夹；钉钉入口更接近团队协作，可结合群聊、日程、文档和企业业务系统处理任务。

三种入口的差别，不只是换了一个登录位置。网页端强调随时可用，桌面端强调本地文件和浏览器操作，钉钉端强调组织数据与协作流程。对于经常在多个软件之间来回切换的人，这种“一个入口接住多种工作”的思路，正是它最有吸引力的地方。

当然，能力并非在每个入口完全一致。阿里云帮助文档注明，浏览器自动化目前仅桌面客户端支持，部分网页制作能力也有端侧差异。使用前仍要看清当前版本和权限，不要把产品总览里的每项能力都理解成所有用户、所有入口立即可用。

放到国内外横向看 千问办公站在什么位置

办公AI已经形成几条不同路线。WPS AI和Microsoft 365 Copilot更贴近传统办公软件，在熟悉的文字、表格、演示和邮件中加入AI；飞书与Gemini for Workspace依托协作平台和云端文档，让AI直接使用团队已有的信息；ChatGPT Work则从通用智能体出发，跨应用、文件和网页完成任务。

千问办公的特点，是把上述几种路线尽量放到同一个入口：既做文档和PPT，也连接本地文件、浏览器和钉钉，还允许把重复任务沉淀为技能或定时任务。它的优势是覆盖面广，挑战也同样明显——链条越长，越考验结果稳定性、权限控制和最终校验。

代表产品	主要起点	更突出的能力	更适合谁
千问办公	统一任务入口	文档、表格、PPT、网页、本地文件、浏览器与钉钉协同	希望减少跨工具搬运的个人和团队
WPS AI	WPS文字、表格、演示、PDF	在现有Office文件里生成、改写、分析和排版	长期使用WPS处理文件的人
飞书AI能力	云文档、多维表格、消息与工作流	团队协作、数据表、自动化和业务流程	资料本来就在飞书中的组织
Microsoft 365 Copilot	Word、Excel、PowerPoint、Outlook、Teams	结合Microsoft 365应用和组织数据工作	已经使用Microsoft 365的企业
Gemini for Workspace	Gmail、Drive、Docs、Sheets、Slides	围绕Google Workspace文件和邮件协作	以Google云端办公为主的用户
ChatGPT Work	应用、文件、网页与桌面任务	跨来源整理信息并创建或修改多类交付物	工具混用、任务类型变化较多的用户

真正的分水岭 是能不能把成果交出来

办公AI的第一阶段，竞争的是谁回答得更聪明；第二阶段，竞争的是谁能把回答变成可编辑、可继续修改、可进入真实流程的成果。千问办公的出现，把这条趋势摆得很直白。

但“能交付”不等于“可免审”。AI生成的报告可能遗漏来源，表格公式可能不适合实际数据，PPT也可能在逻辑、字号或图片版权上出问题。越接近最终文件，用户越要明确目标、提供可靠材料，并设置检查节点。

更稳妥的使用方式，是把任务说具体：交给谁看、需要什么格式、必须保留哪些数据、哪些内容不能改、最后如何验收。把这些条件写清楚后，智能体才更像一位能持续返工的助理，而不是一次性内容生成器。

普通人现在值不值得试

如果你的工作经常在文档、表格、PPT和网页之间来回切换，千问办公值得试一轮。可以先从低风险任务开始：整理公开资料、把会议笔记变成结构化文档、根据已核实的数据制作一页汇报，或者把重复的信息收集流程做成定时任务。

涉及合同、财务、客户数据和对外发布内容时，应先确认组织权限与数据要求，并保留人工复核。办公智能体真正适合接手的，是规则清楚、材料明确、结果可以检查的任务。

千问办公首月的用户增长，说明很多人已经在寻找一个新答案：当AI不再只给建议，而是开始碰文件、碰系统、碰交付物，我们该怎样重新分配自己的时间？

也许以后判断一款办公AI是否好用，问题不再是“它说得像不像人”，而是“它做出来的东西，我还要返工多少”。

很多人以为，让 AI 做 PPT，就是输入一句“帮我生成课件”，然后等它吐出一份成品。

但这次做“小学人工智能通识课”时，我发现真正有价值的不是第一次生成，而是后面一轮轮把它改到能用。

这次实验对象是一套小学 AI 通识课课件：把教学方案和实验操作手册，变成 15 页、16:9、可编辑、能直接进教室使用的 PPT。

我不是让 Codex 随便做一套“看起来像课件”的 PPT，而是不断给它加条件、挑问题、控制用量、缩小修改范围，再让它回去重做。最后成品能落地，靠的不是一句神奇提示词，而是一段很具体的人机协作过程。

第一轮：先问清楚，应该怎么向 AI 提需求

一开始，我手里有两个文件：教学方案和实验操作手册。

如果直接把文件丢给 AI，说“帮我做 PPT”，结果很容易发散：它可能把教师话术放进学生课件，也可能把实验步骤堆成说明书。

所以第一步，我没有急着让 Codex 生成成品，而是先问它：如果要依据这两个文件制作教学 PPT，应该给出怎样的提示词。

这个动作看似绕了一步，其实很关键。

AI 很擅长执行，但前提是任务边界清楚。与其一上来就让它做成品，不如先让它把“应该怎样下任务”讲清楚：用哪些文件、生成多少页、哪些截图能用、哪些内容不能进学生课件。

这一步相当于先把工作说明书写出来，再让 AI 开始干活。

第二轮：控制页数和用量，不让它一上来就“豪华装修”

后来我逐渐把要求收紧：15 页就可以，不要做太大，避免浪费用量；要配图，但不能为了配图而配图。

我还特别强调：不要把每一页都做成整张 AI 背景图。整页图看起来热闹，但修改成本高，用量也大，一旦文字错了、版式不合适，就很难继续精修。

最后，约束变成了一套更明确的规则：15 页、16:9、可编辑 PPTX；浅色背景；每页只讲一个核心点；不生成演讲者备注；不把年级、课时、教学目标、教师话术、设计意图放进学生课件；实验页优先使用真实截图，概念页再使用辅助小图。

这些要求看起来像细节，其实是在给 Codex 画边界。

如果没有这些边界，它很可能会做出一份“内容很多、看起来也完整”的课件，但小学生看不懂，老师上课也不好用。把标准提前说清楚，后面的生成、修改和质检才有依据。

第三轮：配图策略改成“局部小图”，而不是整页 AI 大图

做儿童课件时，很容易掉进一个坑：页面很可爱，但图和知识点没关系。一开始，整页 AI 图看起来很漂亮，可问题也明显：用量大、修改难、容易盖住文字。

于是我改了要求：能不能不要局部生小图？比如需要一台电脑，就只生成一台电脑；需要麦克风、耳朵、声波，就只生成这些透明背景小插画，再嵌入 PPT。

这个方法明显更适合课件生产。

它不是让 AI 每页画一张“大海报”，而是先设计好页面版式，再按需要补小图。这样既节省生成次数，也方便后面调整：文字可以改，图片可以挪，实验截图也能保持真实。

后来这套思路变成了一个稳定分工：概念页用局部小图解释抽象概念，实验页用真实截图保证可复现，总结页用少量图标帮助学生记住步骤。

第四轮：第一版出来后，我开始挑毛病

第一版出来后，并不等于完成。

我继续看预览挑问题。很多问题不是“大错”，但会直接影响课堂使用。

比如，有的页面右下角有编号，我要求删掉；有的页面是空记录表，看起来像让学生填，但其实没有教学意义，我要求改成能直接判断的“证据卡”或“情境判断页”；有的课件第 8 页、第 14 页内容太空，我要求重做；还有一次我只想改“手势”那一套，不想影响另一套，Codex 就必须停下来缩小修改范围。

下面这张表记录了其中几轮具体的修改和响应：

我提出的问题	Codex 后续处理
右下角编号删掉	删除整套 PPT 右下角页码
第 9 页不要空记录表	改成有实例推理链的页面
手势第 8 页也要改	改成“位置变化的对照路径”
手势第 14 页不要空表	改成“改进前后看什么证据”
只要手势的	缩小修改范围，不动另一套
第 14 页文字少一些	保留判断逻辑，压缩重复解释

这几轮对话很重要。

因为很多 AI 工具最容易出问题的地方，不是第一次不会生成，而是用户提出具体修改后，它会不会改错对象、会不会把已经确认的部分又弄乱。

第五轮：发现后半段没设计感，继续返修

做课件还有一个很常见的问题：前几页因为是开场，往往设计得比较好；越到后面，页面越容易变成普通文字堆叠。

我看到后半段设计感明显下降，就继续指出：前几页还有点设计，后面完全没有设计感了。

Codex 后续不是简单换个背景，而是重做后半段结构：把实验操作页改成交替场景，把结果页强化视觉层级，把总结页改成更清楚的关卡或任务台。

这一步让我感觉，它更像一个可以持续返工的制作助理。

我说“这里不好”，它需要理解“不好”具体指什么；我说“后半段没有设计感”，它需要判断是配色问题、结构问题、留白问题，还是页面节奏问题。

这比单纯生成一份 PPT 更接近真实工作。

第六轮：把抽象问题，改成孩子能进入的故事

这套课件里有一节叫《AI 做的事情都是对的吗？》。

如果直接讲“AI 可能存在语义理解偏差”，小学生大概率听不进去。Codex 最后选择了更生活化的切口：翻译耳机闹笑话。

比如，“我们班卧虎藏龙”不能按字面翻成教室里真的有老虎和龙；“piece of cake”在语境里不是一块蛋糕，而是“这件事很容易”；“放鸽子”也不是把鸽子放走，而是没有按约定出现。

这样一来，学生先被问题吸引，再自然进入结论：AI 翻译看起来每个词都翻出来了，但整句话仍然可能错。

这个设计比“直接讲概念”更适合孩子。它不是先告诉学生一个抽象结论，而是先让学生发现：咦，明明每个词都翻了，为什么听起来这么怪？当孩子自己先发现问题，再讲“语境”和“核查”，就不再像灌输知识，而像是在解决一个真实小谜题。

第七轮：不是堆页面，而是设计一条课堂路径

最后的课件不是把材料平均分成 15 页，而是按课堂节奏重新组织。

这时距离最初那两份教学材料，已经不是简单“换个格式”的变化，而是变成了一套有开场、有任务、有实验、有收束的课堂作品。

先用几个“翻译闹笑话”的场景制造好奇心；再用一页最小理论说明“原话和语境进入 AI，译文会影响对方理解”；接着给出四步核查方法：读完整句子、联系语境、圈出可疑表达、说出实际意思；最后进入真实实验，让学生观察“核查前后剧情有没有变化”。

也就是说，Codex 做的不是“把文字放进 PPT”，而是把材料整理成一条学生能走下去的学习路线。

最后不是交文件，而是做质检

最容易被忽略的，其实是最后一步。

Codex 在生成 PPT 后，还要逐页检查：标题有没有异常换行，文字有没有溢出，图片有没有被裁切，实验截图是否清楚，页面左右留白是否均衡，是否出现了不该给学生看的教师端内容。

例如在另一节《AI 怎么认出一张脸》的课件中，质检还专门检查了几个边界：24/24 和 6/6 只能写成学习进度，不能误写成准确率；0.94 不能写成身份置信度；人脸数据要提醒只在课堂内使用、不上传、不传播。

这一步其实最像一位谨慎的助教：它不只负责“做出来”，还要负责“别出错”。所以这次交付前，真正省时间的不是第一版生成，而是后面的反复检查、定位问题和局部返修。

这次实验真正有价值的地方

这次让我感觉比较明显的是，Codex 更适合承担“长链条制作”里的中间层工作。

如果人的角色是定方向、审关键、做最终判断，把重复整理、初稿搭建和细节检查交给 Codex——这种分工，比“让它一口气做完”更接近真实可用。

下次再做类似课程时，我不会只问 AI：“帮我做个 PPT。”

我会更具体地问它：“请先判断学生能看什么，再把这节课设计成一条孩子能走完的学习路线。”

这个问题，才真正接近一套好课件的起点。