当前位置:中国企业报道>> 科技>> 人工智能>>正文内容

当“神兽白泽”也会出错:AI时代的信息可信度之困与可信重建尝试

2026年04月20日 来源:中国企业报道

2026年,生成式人工智能正以前所未有的速度进入我们的学习、工作与生活。无论是写方案、查资料、做分析,还是提供建议,越来越多的人开始习惯向AI提问,并在不知不觉中把它当作一个近乎无所不知的答案系统。

某种意义上,它像古人想象中的“神兽白泽”——知万物、晓百事,似乎总能给出回应。但问题也恰恰出在这里:当这样一个看起来越来越聪明、越来越自然、越来越像“正确答案”的系统也会出错时,我们究竟还能在多大程度上相信它?

今天,AI带来的最大变化,已经不只是效率的提升,更在于它正在深刻改变人类获取信息和形成判断的方式。过去,互联网主要解决的是“有没有信息”的问题;而现在,生成式AI把问题推向了更深的一层:这些信息,究竟能不能信?

如果一个答案表达流畅、结构完整、逻辑自洽,却在事实上存在偏差,在引用上张冠李戴,在来源上模糊不清,那么它越高效,某种意义上也就越危险。真正值得警惕的,从来不是AI偶尔说错一句话,而是错误正在以更低成本、更自然、也更像“正确答案”的形式被规模化生产。

论文引用错误、商业数据失准、政策表述混杂、专业术语凭空生成,这些表面上看只是零散的小失误,但一旦进入专业场景、判断场景和高价值场景,它们就不再只是体验问题,而会逐渐演变为决策问题、责任问题,甚至是信任问题。

AI从“不会回答”走到“看起来很会回答”,已经跨出了很长一段路。但只有当它真正走向相对可靠、经得起检验的答案时,AI参与决策这件事才真正具备价值。眼下更麻烦的地方并不在于它明显荒谬,而在于它在大多数时候都显得足够合理,以至于人们会不自觉地放松核验、交出判断,把原本应由人承担的辨别过程,外包给一个并不承担责任的系统。

这也是我们反复思考的起点。比起继续追逐“更强的生成能力”,我们更在意另一件事:当AI已经越来越深地参与信息组织和结论输出,谁来证明它说的话站得住脚?在我们看来,接下来行业真正要面对的问题,不只是AI“能不能说”,而是AI“说出来的东西敢不敢信”。这不是一个边缘问题,而是生成式智能进入严肃场景之前,必须补上的一项基础能力。

也正因如此,青年创业团队可谱(Cobweb)所尝试构建的,并不是另一个更会说话的模型,而是一层相对独立的可信验证能力。他们所关注的,是围绕真实性评估、证据溯源、审计记录等方向,去回答一个更根本的问题:一个答案从哪里来,它依据了什么,它是否经得起进一步追问,它在多大程度上可信。

他们想做的,不只是让AI更高效地输出内容,而是让它的输出有机会被验证、被追溯、被审视。

在他们看来,未来真正有价值的AI,不应只是一个更高效的输出机器,它还应当具备被人类追问、被系统校验、被场景约束的能力。所谓“可信重建”,并不是让机器永不犯错,而是在答案越来越多、真假越来越难辨的时代,重新把验证的能力、追问的习惯,以及接近真实的路径,放回人与智能系统之间。

这也许不是最热闹的方向,却很可能是一条必须有人去走的路。

责任编辑:文艳
相关推荐
宇树科技科创板IPO注册生效 有望冲击A股“人形机器人第一股”

7月6日,上交所官网显示,宇树科技股份有限公司(以下简称“宇树科技”)科创板IPO审核状态于7月2日变更为“注册生效”。据中国证监会官网消息,7月2日,中国证监会发布《关于同意宇树科技股...[详细]

锦富技术拟4000万元参投智算基金 布局AI算力产业链

7月6日晚间,苏州锦富技术股份有限公司(以下简称“锦富技术”)发布公告称,公司拟使用自有或自筹资金4000万元参与认购嘉兴磐数股权投资合伙企业(有限合伙)(以下简称“嘉兴磐数”)份额...[详细]

辉羲智能与酷哇科技达成战略合作

7月6日,辉羲智能宣布,公司近日与世界模型驱动的城市场景具身智能全栈方案商酷哇科技(Coowa)正式达成战略合作。双方将基于光至 R1芯片与酷哇科技自研的COOWAM(Co-Optimized World Action...[详细]

返回顶部