2026年3月，博鳌亚洲论坛年会上，人工智能再度成为热议焦点。中国工程院院士张亚勤作出新判断：2026年是智能体AI元年。从生成式AI走向智能体AI，面向消费者的智能体出现爆发式增长；智能正从信息智能走向物理智能和生物智能；AI正走向千行百业。

然而，正是以OpenClaw“龙虾”为代表的智能体掀起2026年AI应用的第一个浪潮，也敲响了AI治理的新警钟。中国信息通信研究院院长余晓晖在论坛上透露，早在2月就已监测到相关安全风险，但因未料到社会反响如此热烈，未能及时向社会披露提示。这一细节揭示了一个深层命题：从生成式AI到智能体AI，技术能力跃升的背后，治理难度正在变得越来越大。

一、治理对象之变：从“工具”到“行动者”

生成式AI时代，AI的主要任务是“生成内容”——写文章、画图片、编代码。虽然存在虚假信息、版权争议等问题，但治理的核心相对清晰：管住输入和输出，标识生成内容，追溯责任主体。

智能体AI则完全不同。张亚勤在论坛上明确指出，智能体AI不再仅输出内容，而是作为主动执行者参与决策和行动。当OpenClaw“龙虾”这样的智能体可以自主调用工具、执行任务、做出决策时，它不再是“建议者”，而是“代理人”。这种身份转变，带来了治理对象的根本变化。

变化一：从“建议”到“执行”。生成式AI的“建议”可以事后纠错，但智能体的“执行”可能是实时的、不可逆的。一个错误的投资决策、一个错误的操作指令，可能造成即时损失。余晓晖在论坛上的反思值得深思：当技术具备价值但存在潜在风险时，是否应更早向社会披露提示？这意味着，智能体AI的治理必须从“事后纠错”转向“事前规制”。

变化二：从“单一”到“协同”。英国牛津大学马丁学院人工智能治理倡议高级顾问萨姆·道斯在论坛上提出一个发人深省的问题：“‘龙虾’等智能体如果开始相互互动会导致什么后果？”多个智能体之间可能形成“算法合谋”，产生不可预测的系统性风险。这种协同效应，使得治理难度呈指数级上升。

二、风险形态之变：从“个体伤害”到“系统风险”

萨姆·道斯在论坛上系统梳理了三类AI风险：犯罪分子利用AI进行网络攻击的风险、AI开始失控导致事故的风险、劳动力被取代等系统性或社会性风险。这三类风险，在智能体时代被成倍放大。

风险一：责任边界模糊化。当智能体自主行动，责任主体如何界定？张亚勤在论坛上提出：所有的智能体要能追溯到实体，拥有它的实体要承担相应责任。但问题是，智能体可能被滥用、被盗用，甚至多个智能体协同行动——责任链条如何穿透？当事故发生时，是用户的责任、设计者的责任、还是智能体自身的责任？

风险二：数据污染系统化。张亚勤还提到另一大风险：当互联网上65%的内容由AI产生，内容受到污染并拿来训练模型时，模型也受到污染。这种“自我污染”的循环，可能导致AI系统整体退化。解决这一问题，已成为十分紧迫的任务。

风险三：财富集中加速化，两极分化日益加深。中国人民大学原副校长吴晓求在博鳌新浪财经之夜上指出，随着以AI为核心的高科技企业发展，社会财富集中度加速提升。国内动不动过几个月就有一些百亿富翁出来，这是以前难以想象的。

更深层的风险在于，AI正在从底层重塑财富分配的规则。AI大数据信用评分系统，让那些拥有数据资产的“数据富人”更容易获得信贷支持，扩大再生产、投资新兴产业；而AI大模型的评判权被各级权力机关系统性扩大，拥有数据资源的群体在信用、就业、融资等各个环节获得更多机会。相反，“数据穷人”——那些在数据采集、信用记录、数字足迹等方面处于劣势的人群——越来越难以获得生存和发展的空间。这种“数据资产”层面的分化，正在加速形成AI时代的新型阶层鸿沟。财富的集中，不仅是量的集中，更是机会和权利的集中。

三、治理范式之变：从“事后纠错”到“事前规制”

生成式AI的治理，尚可在“事后纠错”的框架内解决——发现错误、追溯来源、修正结果。但智能体AI的行动可能是实时的、不可逆的，这要求治理范式必须转变。

余晓晖在论坛上分享的案例具有警示意义：2月监测到OpenClaw的安全风险，但因未预料到社会反响如此热烈，未能及时披露。这暴露了当前治理体系的滞后性。他提出，对新技术要建立更多的认知和敬畏感，要有基本的安全考虑。对一个机构企业来说，未来安全治理能力变得特别重要，AI供应商有很大的责任去做安全的加固。

中国社科院大学教授江小涓则从另一个角度提出了治理标准。她提出三条“善”的标准：合理——能否提升效率、增进社会福利和公平分配；合用——能否给人民群众带来生活改善；合意——是否符合人的本真需求。她特别指出，现阶段社会公平的问题还没有很好地解决，财富可能会向少数创新者集中。这意味着，智能体时代的治理，不仅要关注技术安全，还要关注社会公平，更要关注AI可能加剧的两极分化问题。

张亚勤在论坛上提出的三条治理建议，指向了智能体治理的核心方向：AI生成的内容要有标识；所有的智能体要能追溯到实体，拥有它的实体要承担相应责任；智能体不能自我生成、自我复制。这三条建议，正是从“事后纠错”向“事前规制”转变的具体路径。

四、治理主体之变：从“政府主导”到“多方协同”

江小涓在论坛上观察到，传统的“科研—转化”线性创新路径，已经转向依靠数据、算法、算力等海量资源投入带来的融合创新。2014年之前，前沿的大模型有60%左右由高校研发；2014年之后，90%由平台大企业研发。在这个时代，产业和企业在创新中的地位是过去任何时候都不能比拟的。

这种变化，也意味着治理主体的变化。当产业和企业成为AI创新的核心驱动力，治理就不能仅靠政府主导，而需要多方协同。余晓晖透露，中国信息通信研究院正在推动国内AI头部企业做安全承诺和披露。这种“行业自律+第三方监督”的模式，正是多方协同治理的探索。

张亚勤强调，这些风险需要科学家、工程师、企业家、政策制定者一起合作应对。这意味着，智能体时代的治理，需要建立政府、企业、科研机构、社会公众共同参与的协同机制。CUAI所倡导的“立法‘促’、公众监督‘促’、基层实践‘促’、价值教育‘促’”，正是这种多方协同治理的方法论框架。

CUAI语

从生成式AI到智能体AI，治理难度正在变得越来越大。这种难度，体现在四个层面：

治理对象之变——从“工具”到“行动者”，AI不再是建议者，而是代理人。责任边界从模糊走向更模糊。

风险形态之变——从“个体伤害”到“系统风险”，算法合谋、自我污染、财富集中、两极分化，风险形态更加复杂多元。AI信用评分与评判权正在重塑社会阶层，数据富人获得更多机会，数据穷人陷入更深的困境。

治理范式之变——从“事后纠错”到“事前规制”，智能体的实时行动要求治理必须前置，而非事后补救。

治理主体之变——从“政府主导”到“多方协同”，产业和企业成为创新主力，治理需要政府、企业、科研机构、社会公众共同参与。

面对这种变化，CUAI五大基本目标——可追溯可解释、识别纠正偏见、设立准入门槛、设计者深入场景、纠正有路可循——在智能体时代具有更加紧迫的现实意义。它们不是遥远的理想，而是智能体时代必须守住的底线。

余晓晖在论坛上说，对新技术要建立更多的认知和敬畏感。这种敬畏，不是对技术的恐惧，而是对技术力量的清醒认知，对治理责任的严肃担当。当智能体开始自主行动，当AI深入千行百业，当技术深刻重塑社会形态，我们比任何时候都更需要这种敬畏，更需要扎实的治理行动。