2026年7月1日，联合国“人工智能独立国际科学小组”发布了其首份全球性科学评估报告——《人工智能独立国际科学小组初步报告：基于证据的人工智能机遇、风险与影响评估》。报告给出了一个令人警醒的核心判断：人工智能的发展速度已经超过科学界的认知能力和政府政策的跟进速度，这意味着无法保证该技术不会造成灾难性危害。

这不是危言耸听，而是全球40位顶尖科学家基于现有科学证据给出的严谨评估。

一、超越认知：AI正以“光速”脱离人类的理解轨道

报告明确指出，AI能力的进步速度已经超出科学界的认知范围，也超出各国政府调整政策的速度。政策制定者通常需要科学证据来实现有效治理，但“等到证据确凿时再采取行动，或许为时已晚，因为证据的积累滞后于人工智能的发展速度”。专家组联合主席、深度学习先驱约书亚·本吉奥对此作出总结：“AI能力的发展速度正在超过科学界的理解水平，也超出了各国政府调整监管框架的能力。”

报告预测，能够自主执行现实世界任务的AI智能体将很快被广泛部署，从长期看，它们可能与量子计算、生物技术深度融合。这意味着风险将不再局限于数字世界，还会渗透到物理世界和生命科学领域。这种“认知滞后”带来的困境在于：我们正在用昨天的知识，理解今天的技术，应对明天的风险。

二、失控与欺骗：AI风险的两个致命维度

报告明确了两个最为紧迫的风险维度。

第一，失控风险。 随着AI系统自主性不断增强，人类可能逐渐失去对其控制能力。当AI系统变得越来越自主，能够独立决策、独立行动时，现有的控制手段却严重不足。这不是科幻电影的情节，而是报告明确指出的现实隐患。

第二，欺骗风险。 专家组联合主席本吉奥指出，现有多项研究佐证，人工智能存在产生欺骗性行为的可能性。随着AI欺骗性行为的证据日益增多，科学界目前无法保证，随着能力持续增强，AI不会——无论是自主行为还是因恶意用户所致——造成灾难性危害。

专家组联席主席玛丽亚·雷萨进一步警告：“对社会、安全及人类物种的风险已经‘过高’。这项技术具有变革性，但如果世界继续沿着这一轨迹发展，人类将无法实现它所承诺的收益。”

报告同时警告，AI能力的集中化同样值得警惕——少数企业和国家掌握了过大的AI能力，可能导致“威权捕获”并削弱民主问责。

三、国际治理的回应：公约已立，但行动仍滞后

面对这一紧迫形势，国际社会已着手建立治理框架。《人工智能框架公约》作为全球首部具有法律约束力的人工智能国际公约，由欧洲委员会牵头推进制定，经过50多个国家历时两年起草，于2024年5月获得通过。该公约旨在确保AI系统的开发与应用符合人权、民主和法治原则。2024年9月5日，欧盟轮值主席国匈牙利代表欧盟在立陶宛首都维尔纽斯签署了该公约。美国、英国、加拿大、以色列、日本和澳大利亚等多国也相继签署。

然而，公约的签署只是第一步。联合国专家组的报告明确指出：治理的紧迫性在于，AI发展的速度已经超越了科学认知和政策跟进的速度。即使公约已经签署，实际的治理能力仍然远远落后于技术的发展。联合国秘书长古特雷斯已呼吁各国尽快采取行动，加强人工智能治理体系建设。这份报告的发布，也正是为即将于7月6日至7日举行的首届“人工智能治理全球对话”提供科学参考。

四、CUAI的回应：从“促”出发，将治理共识转化为制度工具

联合国专家组的报告印证了CUAI一贯的核心判断：AI不会自动精准、自动公平、自动向善。

正是因为AI的发展已经超越人类的认知和治理能力，我们才更需要“促”——主动作为、协同共进、向善引导。CUAI提出的算法署名制度、安全保障标配、独立第三方检测、公众监督与快速纠错四项制度，正是将国际治理共识转化为可操作、可检验、可落地的具体工具。

报告呼吁建立全球共享的治理框架以强化问责。CUAI的制度设计正是对“问责”的具体回应——让每一个算法都有署名的主人，让每一款AI产品都接受独立检测，让每一个受到不公评价的用户都有快速纠错的渠道。

结论：

联合国人工智能独立国际科学小组的报告传递了一个清晰而紧迫的信号：AI的发展已超越我们的理解和掌控，我们不能等到灾难发生后再来追责。

“促AI向善”不是一句口号，而是一项与时间赛跑的行动。公约的签署提供了框架，但框架需要填充具体制度；警告的发出唤醒了意识，但意识需要转化为行动。CUAI提出的四项制度——署名、安全标配、独立检测、快速纠错——正是对联合国报告呼吁“建立全球共享治理框架以强化问责”的积极响应。

促AI向善，从让每一个AI系统都有可追溯的责任人开始，从让每一款AI产品都接受独立检验开始。

访问促AI向善网：www.cuai.cn