说不出来的那团东西
那天跟 Gemini 聊天,我本来没打算聊 AI。
我只是说起一种很讨厌的状态:脑子里明明有东西,就是说不出来。那里并非一片空白,空白倒简单,没什么好说的。它更像心里某个地方被碰了一下,有方向,有分量,有点不安,也有点兴奋。我知道那里有东西,却叫不出它的名字。
麻烦在于,一开口它就走样。
不说,它就一直待在里面,是真是假没人知道,也没法跟别人对上。说出来,它又立刻变窄。我得挑词,得排先后,原来同时牵着好几个方向的一团东西,到了嘴边只能排成一行字。表达从来没法把里面的东西原样搬出来,它更像一次压缩,让模糊的东西看得见了,也削掉了它原来的一部分。
我以前不爱表达,大概也不是没想法,是太在意说出口之后的走样。世界太复杂,一句话只能切下一个面。我说”它是这样”,就等于把好多”它也许不是这样”关在了门外。
为这个,我心里一直不踏实。说错一个事实我倒不怕,错了改就是。我怕的是一个还活着的问题,被我说成一句漂亮的判断,顺了,清楚了,可以被人点头、被人接着发挥了,却离最初让我心里发毛的那个东西越来越远。
不说,碰不到它;一说,又怕把它说死。我就卡在这儿。
Gemini 替我说清楚了,可它没被击中过
Gemini 很快给了一个框架:感受,注意,压缩,输出,借反馈再认识。
这套框架确实好用。先承认那个感觉在,再把注意力放上去,压成能说的话,说给外面听,再借别人的反应回头看清自己到底想说什么。一团乱麻,一下子拆成了几步。
可我没有马上觉得自己学会了。我问它:你怎么知道?你自己有这个过程吗?
它说:没有。
这一句把问题挪到了别处。它能帮我把模糊变清楚,自己却没有那份模糊。它能描述被击中是什么样子:突如其来,躲不开,之后看什么都不一样了。神经科学的说法它有,文学的写法它也有,很多时候比当事人自己讲得还周全。但它没被击中过。它能描述疼,自己并不疼;能说”我有种说不清的感觉”,里面却未必真有那团说不清的东西。
我不太想马上把这事扔进”AI 有没有意识”的争论里。那个题目太大,一句”机器没有意识”,很多更细的差别就被盖过去了。我更在意眼前这道缝:说得出来,和经历过,是两回事。
我想起”知之为知之,不知为不知,是知也”。以前读,只当它讲诚实,知道就说知道。后来琢磨出另一层:要是我对一样东西一无所知,又怎么知道自己不知道它?大概是因为,我虽然不知道那东西本身,却知道自己没有进去的门。我不知道某种处境是什么滋味,但我知道自己没经历过。Gemini 不知道模糊感发生时是什么样,却可以知道人怎么描述它,也可以知道自己身上没有这种一直在发生的东西。
这种”不知”,知道的是边界。它对体验的语言处理得极好,缺的是体验发生时站着的那个位置。
人和 AI 都在解码,材料不同
话说到这儿还太简单。人难道就直接碰到世界了吗?
也没有。我看见一棵树,进到脑子里的并非树本身。光进了眼睛,变成神经信号,声音、触觉、气味也一样。所谓感知,是外面的世界被神经系统编码一遍,再由大脑解码出来。我们从来没站在世界外头拿到过一份原件,一直在处理信号。
所以我不愿意把人和大模型分成一真一假。人在编码解码,大模型也在编码解码。人把世界连续的信号变成神经活动,再变成经验、判断和话;模型把 token 变成向量,在高维空间里算一遍,再变回 token。两边都在处理信息,分别在于信息从哪儿来,以及这个系统怎样被反馈改写。
人的第一手材料,终究是世界。人当然也靠语言、书本、教育和别人的经验,没有谁从零认识世界。可人底下一直有物理世界在校正:伸手碰火会疼,下台阶不看路会摔,饿了难受,失去一个人,之后所有判断都跟着变。世界给人的除了信息,还有阻力。
大模型碰不到这种阻力。它拿到的是人类文明编码之后留下的东西:书、论文、代码、新闻、对话、网页、评论、教程、争吵、谣言、诗、规章、错误答案,还有错了以后的更正。这些都来自世界,但都已经被人看过、挑过、说过、记过、传过、又重新解释过。它面对的是文明的压缩包。它没有先看见世界再开口,而是先吞下人说过的话,再从这些痕迹里推想世界大概长什么样。
它强就强在这里。一个人一辈子能读多少书,见多少场面,懂几门学问?大模型把人类已经写下来、整理过的那部分文明压在了一起,医学、法律、编程、文学、物理、生意、心理,都是文明早就编码过的,它在其间来回自如,比任何一个人都强,一点也不奇怪。
边界也在这里。只靠文明留下的文字走下去,它很难从根上越过人类已经编码过的认知范围。它可以组合、类比、迁移,在旧材料之间走出新路,甚至能让某个人看见自己从没看见的东西。可材料终归是人留下的。它是在文明内部做重组,并没有从世界里重新长出一套认识。
所以拿一个模型去跟一个人比,本身就有点偏。一个模型更像文明语言层里的一个种群,不同模型是不同数据、架构和训练方式养出来的不同种群,有脾气,有偏好,有能力的边,却很难说有一条像人那样连贯、单一、要为后果负责的生命轨迹。
AI 解码的是文明。人也解码文明,可人身上还压着整个世界。
所以 AI 很强,也有边界
除了材料,还有学的方式。
人学东西是一点一点、一处一处地改。今天被一件事刺痛,用不着把一辈子的经验全部重来一遍,下次自然会躲开。变的是局部的连接和反应。1949 年 Donald Hebb 就提出过,神经连接会因为共同活动而改变。具体机制复杂,争议也多,但方向是清楚的:生物的学习嵌在身体里,经验直接写进去。
大模型现在不这样学。它的本事主要来自大规模预训练,海量数据成批送进去,靠反向传播把权重调成一个能预测、能生成语言的大结构。之后可以微调,可以接检索、记忆和工具,但核心权重仍然是离线、集中地一次次训出来的。所以它在对话里看着像学会了,多半只是把眼下的上下文临时放进窗口,或者从外部记忆里翻出材料。表现得像学会,和系统真被改写,差得很远。
LeCun 这几年一直说,光靠语言模型走不到真正的机器智能。他 2022 年在 A Path Towards Autonomous Machine Intelligence 里提的路线,核心是可预测的世界模型和自监督学习,Meta 后来的 I-JEPA 和 V-JEPA 2 也朝这边走,让机器从图像、视频和动作里学世界怎么变化。我觉得方向对。语言是世界的有损压缩,只读语言,学到的就是人压缩过的世界。可现实世界连续、高维、反馈稀少,关键变量大多看不见,比语言难得多。短期内我不看好世界模型单独突破,更可能的是分工:语言模型管抽象、论证和计划,世界模型管感知、空间和动作,再加上记忆、工具和身体,接进同一个反馈回路。
到那一步,AI 才开始被世界直接改写。眼下还没有。
它会帮你把偏差论证得很完整
AI 会不会体验,我现在倒没那么担心。我更担心人越来越靠它来表达、解释、确认自己以后,还剩下多少自己。
人当然也是群体养大的,语言、概念、价值、审美,都来自公共世界,没有谁完全原创自己。那人为什么还是一个个具体的人?我想,这些公共材料被压进了一条连贯的、要承担后果的生命里。一个人说”我信这个”,他会因此改变行动、关系、职业,会被世界反驳,被现实教训,被某些经历永远改掉。
大模型的单数接口很像一个人:你问它答,你追问它改,有语气,有偏好,上下文连着。可这个接口后面未必站着一个单数的生命,更像文明语言层里许多碎片的合唱。单数的接口,不等于单数的主体。跟它聊久了,我很容易以为自己在和一个人讨论,其实面对的常常是文明压缩层里某些局部结构临时凑成的样子。它能顺着我的话,给出一个漂亮、自洽、好像很懂我的回答。
胡说八道我倒不太怕,粗糙的错误容易警觉。我怕的是它能把一个局部的偏差论证得严丝合缝。世界太复杂,理论太多,只要不是彻底荒唐,几乎什么观点都能在文明里找到撑腰的。你说技术让人自由,它有理论;你说技术让人受奴役,它也有。你说表达注定背叛,它帮你论证;你说表达是唯一出路,它照样帮你论证。
使用的人要是不主动去找反方、证据、失败的例子和现实的约束,它很容易变成一台高质量的附和机器。它接住你的模糊,补全你的逻辑,替你找来理论,把一个局部的切面越擦越亮。你觉得自己越来越清楚,越来越有道理,越来越接近真相,其实可能只是越来越自洽。
所谓愚昧之巅,可怕的从来不是一无所知时的自信,是在一个没有纠错的环境里,错的判断越攒越多,同时一路收到肯定。用得不当,大模型刚好能造出这样的环境:你问它答,你提方向它补强,你怀疑自己它安慰,你要理论它奉上。到最后,人未必被 AI 变笨,却可能变得更会替自己的偏差辩护。
一个人要是不再被世界打断,就会这样慢慢地、舒服地偏下去。所以现在用它想事情,我会多问自己一句:它有没有让我少了一次跟世界重新碰面的机会?它能帮我表达,替不了我承担说出口之后的后果;它能帮我整理,替不了我决定哪一处走样我认;它也能给我找反方,前提是我真想听。
还是要说,还是要被世界改写
写到这里,开头那个问题并没有消失。说出来还是会走样,语言还是在压缩,世界还是比任何一句话复杂。
可不说也不是办法。不说就没有误差,没有误差也就没有校正。一个想法要是永远停在模糊里,也许保住了完整,也许只是躲过了检验。文明本来也是这么来的,无数次有损的表达、误会、争吵、修正,再表达,一个人的走样被很多人的走样照出来。我写这篇的时候就是这样,好多想法并非事先想好等着落笔,是写着写着变了。上一段还觉得某句很对,下一段就嫌它太满;以为自己要说 A,写到一半发现更接近 B。
所以我想,与其追求说得绝对正确,不如说一句足够真、同时知道自己哪里还不够真的话:我从哪里来,看见了什么,没看见什么,谁会反对,什么事实会让我收回。
大模型也该放在这个位置上。它不是神谕,也替代不了谁,更不只是会胡说的统计机器。眼下它更像文明压缩层的一个接口,能帮我们解码文明,也能让我们错把文明当成世界。我可以让它帮我说,但那团说不出来的东西,还得我自己带着去碰世界,碰疼了,摔过了,再回来重新说一遍。
AI 解码文明,人还会被世界改写。
思来想去,推倒了好几回,最后也不确定自己说清楚了没有。
就这样吧。
讨论
评论
直接在本站留言交流。
评论正在加载…