知识的生产是推动人类文明进步的核心动力。当前,生成式人工智能利用其强大的数据和算力,已能产出逻辑清晰且具有实际价值的信息,甚至在某些领域超越了人类专家的表现。人工智能在知识生产领域的介入,不仅意味着科研工具的升级,更引发了深刻的思考:人工智能输出的内容是否能被视为“知识”?更进一步,人工智能是否能够真正产出意义上的知识?随着大模型技术的不断发展,这一极具争议的前沿问题日益受到学界的广泛关注。本期《学术争鸣》栏目将刊载两篇观点不同的文章,聚焦此议题,各抒己见,并期待更多读者的参与。

自大语言模型兴起以来,人们越来越习惯于向人工智能提问、与其交流并从中获取答案。大语言模型往往能引经据典,条理清晰地回应,仿佛源源不断地输出“知识”。这便引出了一个问题:人工智能提供的内容是否算得上真正的知识?要回答这个问题,我们首先需要厘清:当我们说一个人“真正懂得”某事时,我们到底期待什么?

偶然的正确不等于“懂得”

以一个著名的哲学难题为例:设想一个人看时间,他看到墙上的钟显示3点,并相信现在是3点,而恰巧那一刻确实是3点。然而,这个钟在12小时前就已经停了,他只是碰巧在正确的时间看了它。尽管他拥有一个真实的信念,并且有看似充分的理由(他看了钟),但我们的直觉会明确指出:这不叫做“懂得”。他只是运气好猜对了。

这类问题在哲学界被称为“葛梯尔问题”。它揭示了真正的知识并非仅仅是一个恰好为真的答案,而是一种认知上的成就——你的信念之所以为真,必须源于你认知能力的可靠运作,而非运气。

那么,什么样的“认知成就”才算数?真正称得上“知识”的事物,至少需要满足四个条件:

第一,理解。仅仅知道“物体受热会膨胀”的结论是不够的,还需要能够解释温度计为何能测量温度、铁轨之间为何要留有缝隙、以及热气球为何能够升空。“理解”意味着能够把握事物背后的因果联系,并从原理层面推演其来龙去脉。

第二,可负责的证明。当被问及“你凭什么知道”时,知识的拥有者能够给出解释,并愿意为自己的回答负责。从这个意义上说,运气不被算作知识,因为它绕开了提供解释的责任。

第三,与现实的联系。知识不能脱离实际,它要么植根于亲身经验,要么能够接受现实的检验和修正。一个拒绝任何反驳的信念,即使在内部逻辑上自洽,也不能被视为知识。

第四,一个在场的“主体”。知识需要由一个“知者”来持有、审视和守护,这个人能够坦然地说出“我相信”。

回顾历史,中国传统文化对“真知”的标准也与此相似。张载区分了“见闻之知”和“德性所知”,前者仅是感官积累的信息,后者则需要穿透感官局限,通过身心修炼才能达到。王阳明更是进一步指出“知而不行,只是未知”,意即知识如果不融入生命和实践,就不能算作真知。

由此可见,真正的知识从不只是一段正确的内容,而是一种需要主体去持有、去实践、去承担的认知成就。它是“你”亲手掌握的,而非仅仅是“它”偶然吐出的。

AI所产出的“知识”,缺失了什么

现在让我们回到当前。当前最强大的大语言模型,本质上是一个“下一个词预测器”。它通过学习海量人类文本中的统计关联,推断在特定语境下接下来最合理、最有可能出现的词语。它的优化目标是“可能性”,而非“真实性”。理解这一点,就掌握了理解AI的关键——它的能力令人惊叹,但其根本上也存在缺失和局限。

首先,AI从不接受现实的检验。知识需要与现实相关联。科学家提出的假说需要实验验证,现实有权宣判其错误,而新知识正是在这种“被否定”的可能性中诞生。AI的处境截然不同:它的生成机制只关注“接下来怎么说最像样”,而不关心“事情是否就是这样”。它从不坚持任何命题,也不处于一个可被检验的位置。更隐蔽的缺陷在于意义的根源。语言哲学有一个经典难题:词语为何有意义?“苹果”之所以有含义,是因为我们见过、摸过、咬过苹果。词语与事物之间存在联系,将符号拉回现实世界。但对于完全依靠文本“喂养”的模型来说,词语只与其他词语相连。当它写下“火”字时,背后没有任何被灼烫的经验作为支撑。哲学家称这种空洞的意义为“派生的意向性”。模型看似头头是道的“理解”,实际上是我们使用者投射进去的,而非其内在持有。危险之处在于:一本“借来”的书容易辨别,但AI会主动回应、推理、追问,如同一个真正理解的心灵,这使得意义的空洞比任何媒介都更难被察觉。

其次,“幻觉”并非偏差,而是其固有的设定。回到之前的标准:知识至少应包含“信念”,即主体对某事真实性的认定和承诺。而当前的AI没有信念,它仅仅依赖于“接下来怎么说最像样”,而非“事情是否真的如此”。这就解释了最令用户恼火的问题——大模型的“幻觉”。AI会以说真话时同样的确定语气,编造出根本不存在的引文、数据和事实。问题不在于它“偶尔出错”,而在于其底层机制中,说真话和编造假话是同一个动作,都是在概率空间中选择最顺畅的延续。对于AI而言,真与假没有区别;利害与承诺,根本无从谈起。

第三,流畅的“为什么”,不等于真正的理解。近年的研究确实表明,大模型在内部习得了某些结构化表征,并非完全是“鹦鹉学舌”,这一点不应被轻易否定。然而,捕捉统计规律与把握因果关系之间,还存在一道深远的鸿沟。AI能够流畅地解释一长串“为什么”,但这未必是源于原理推演,也可能只是对人类积累的海量“为什么”的重新组织。而真正的理解,意味着洞察事物为何如此,并能在全新情境下做出判断。相关性的捕捉,终究不等于理解的达成。它只是接近了理解的外在表现,却未必触及理解的本质。

第四,没有一个“我”在承担这份知识。如前所述,知识需要一个第一人称的“谁”。这个人拥有信念,为信念负责,并且能够反思自己的可靠性。哲学家称之为“反思性的知识”,即不仅是碰巧相信对了,还能超越自身,评估自己为何可信。而当前的AI并没有这种自我。它不真正“相信”什么,也不“守护”什么,而是在每一次对话中被唤醒,又在对话结束后归于沉寂。张载的“见闻之知”和王阳明的“知而不行,只是未知”,在此处充分展现了其意义:真正的知识总是与某种生活、某种行动、某种责任紧密相连。而今天的机器,并非如此。

AI目前只是工具,远非知识的生产者

当然,有人会反驳:如果将知识定义为“可靠过程产生的真实信念”,那么一个足够强大的系统,为何不能算作“懂得”?更何况,随着多模态模型装载传感器、接入物理世界,“接地”与“具身”等反驳的效力也在减弱。我们还必须公平地承认:今天的AI已是极其强大的知识工具——在蛋白质结构预测、数学猜想验证等领域,也确实参与了知识的发现。

围棋领域的AlphaGo和新材料发现中的AI,是目前常被用来证明AI已进入知识“生成”环节的例证。不可否认,AlphaGo确实走出了人类棋手未曾充分认识的招法,AI也确实在海量组合空间中筛选出了此前难以穷尽的候选材料。但这些工作触及的,只是知识生产的素材,而非知识本身。它们与生产知识之间隔着一道必经之门:人类共同体对它的验证、解释和理论整合。AlphaGo的“第37手”之所以成为围棋知识,靠的不是AI的判断,而是人类棋手群反复复盘后赋予的理解;AI筛选出的候选材料,也需要经过实验、因果说明和理论重构,才能真正汇入知识体系。AI在链条中迈出的这一步,是从处理既有知识走向了生成候选知识对象,但从“候选”到“知识”之间那一步,仍然需要由人类来完成。而这一步之差,恰恰是“与现实接触”和“主体负责”所在之处:只有作为主体的人站在可被检验的位置上,才能为那个候选对象是否“为真”承担判断风险。

我们注意到,近年来,一批被称为“AI科学家”或“AI研究员”的系统,不再满足于回答问题,而是被赋予了一套闭环:自动检索文献、提出假说、设计实验、在真实设备上运行实验、收集数据、分析结果,甚至自行修正被推翻的猜想。在一些早期尝试中,这类系统已能在简单的化学合成路线设计与材料筛选任务上跑通全流程,产出的结果经人类科学家复核后,被承认具有真实的增量贡献。听上去,这似乎已经开始逼近“接受现实的检验”和“与实在接触”那两道门槛。然而,细看便知裂痕仍在。一个引人深思的对照发生在2024年:某前沿AI系统在标准化学推理基准测试中取得了超过人类博士的平均得分,但当研究人员将同一套题目中的试剂名称换成虚构词汇、保持逻辑结构不变后,AI的性能断崖式下跌。它答对的,是训练语料中频繁共现的模式,其终究是在“匹配模式”,而不是在“把握因果”。于是,流利的“为什么”和真正的理解之间那道坎,依然横亘在那里。

这个对照,恰好让我们有机会澄清本文判断的边界:这不是一个关于“永远”的判决,而是一个关于“现在”的判断。就眼下这类以语言模型为主体的人工智能系统而言,还远没有取得作为一个“知者”去产生“真正的知识”的资质。因而我们可以做出以下判断:今天的AI,是知识内容卓越的加工者与传递者,却还不是知识的生产者:没有对现实负责的处境,没有属于自己的意义,没有朝向真理的信念,没有从原理出发的真正的理解,也没有一个去持有、去守护这一切的主体,它只是把人类凝成文字的知识,以惊人的规模重新组织、检索、再表达。今天的AI,至多停在张载所言“见闻之知”的层面,转述、重排着人类的见闻,远够不着“德性所知”,更抵达不了王阳明“知行合一”里那个经由亲身践行而获得,又能反过来指导行动的“真知”。

说到底,AI生成的内容,唯有结合人的理解,才能真正长成知识。知识生产是一桩属于主体的事业,属于那种愿意去面对世界、亲自检验、并为自己所言担责的主体。而这样的主体,在今日的硅基世界,尚未醒来。

05 条神评论

电竞大神

2024年5月18日 10:30

精彩不停歇!

策略大师

2024年5月18日 11:00

精彩不停歇!

技术控

2024年5月18日 12:15

精彩不停歇!

休闲玩家

2024年5月18日 14:00

精彩不停歇!

新手上路

2024年5月18日 16:45

精彩不停歇!

留下你的精彩!

发表评论