中外专家认为 可信能力将成为AI下一个“决胜点”

原标题：中外专家认为——

可信能力将成为AI下一个“决胜点”

◎李亚丽  本报记者 王 春

当AI加速从展示性场景走向真实业务，“可不可信”成为关键问题。在日前举行的2026世界顶尖科学家论坛“人工智能平行论坛”上，科学家和产业界代表直面一系列现实问题：算法偏见、数据安全、生成内容幻觉、技术滥用，以及不断拉大的智能鸿沟。现实证明，AI不能等系统上线后再补安全课，可信不是“附加项”，而是“基本项”。

中国科学院院士、华东师范大学终身教授何积丰早在2017年就提出了“可信人工智能”理念。在他看来，AI不应成为“黑箱”，可信不能停留在原则宣示上，而应嵌入AI研发全流程；应通过形式化方法和对齐技术，在知识理解和风险缓解环节前置安全机制，为技术可信奠定基础。

在AI应用落地过程中，“为建而建”的形式主义并不少见，数据质量、业务融合和价值量化等领域的瓶颈突出。技术能力快速提升而治理能力相对滞后，正成为AI落地“最后一公里”的关键约束。可信AI不是一次性合规动作，而是贯穿研发、部署、运行全生命周期的治理能力建设。

当前，主流大语言模型从海量互联网数据中提取统计规律，并据此预测下一个词元。而基于统计原理预测的AI系统，准确率不可能达到100%，智能体也始终可能产生不可预测的行为。若要让AI承担社会功能，未来可能需要引入物理规律和逻辑规律作为新的技术基础。2024年沃尔夫数学奖获得者、普林斯顿大学教授诺加·阿隆说，AI在数学解题上已表现出很强的能力，但“基本上是在使用现有方法，并未真正发明新方法”。换言之，AI能在既定问题空间内高效搜索；一旦问题空间本身被重新定义，它的“可靠性”就失去了参照。对齐也不是一次性写入规则，而是伴随模型能力演化的持续治理过程。

2015年图灵奖得主、斯坦福大学荣休教授马丁·赫尔曼直言，AI风险、核战争威胁与气候变化归根结底同源：技术让人类拥有近乎“神明般”改造世界的能力，而人类的行为方式却仍像“不负责任的青少年”。他因此提出“过程性思维”：不能指望一次建成理想秩序，但必须开始从对抗转向合作。对AI全球治理而言，这意味着治理是持续校准、逐步嵌入护栏的过程，而不是“要么放任、要么封禁”的二选一。

下一个十年，AI竞争不会只是模型参数和算力规模的竞争，更是可信能力与治理智慧的竞争。从“事后处置”转向“事前预防”，把可信从“工具附加项”转向“系统重构”，从追问“能做什么”转向追问“在哪些约束下能可靠地做成什么”——这或许是AI更深融入社会之前最需要补上的一课。