短视频把思维切成许多片段,AI则可能直接越过形成答案的过程。系统越来越强,不等于使用者也在同步变强。

上一篇讨论了信息流如何切碎注意力,以及信息为什么不等于智力资本。AI让问题又多了一层:它不一定让我们频繁切换,却能在问题刚刚出现时,就给出一个完整、流畅、看起来足够可信的答案。

这当然是一种巨大的能力。人不必独自完成每一次检索、整理、翻译和计算,原本分散的知识也可以被快速连接起来。但正因为工具太强,另一种风险很容易被结果遮住:人机系统的表现提高了,人的内生能力却未必同步增长。

AI提高了系统能力,人却未必同步变强

使用AI之后,报告写得更快,代码产生得更快,陌生问题也能迅速得到一份结构完整的解释。如果只看最终产出,人显然变强了。

可这里至少有两种不同的能力。第一种是借助工具迅速取得结果,第二种是独立理解、生成和检验结果。AI会显著扩大前一种能力,却不保证后一种能力也跟着上升。

一个人可以拿到很好的答案,却不知道答案用了哪些前提;可以交出一份漂亮的分析,却无法在没有原文的情况下重新说明推理;可以让AI比较十种观点,却没有形成自己判断证据的标准。此时变强的是整个人机系统,而不一定是这个人。

这种错觉之所以危险,是因为两种状态在短期内看起来几乎一样。无论是人被AI增强,还是人被AI替代,屏幕上都可能出现流畅的文字和正确的结果。区别通常要等到工具离开以后才会显现。

答案来得太快,也可能终止好奇心

很多长程思考都从未知开始。人暂时没有答案,心里保持着一种张力,于是愿意继续找材料、试解释、遇到矛盾,再修改原来的想法。

未知当然不是越多越好。完全无从下手的问题只会让人放弃。真正能驱动探索的,是一种适度的未知:我还不知道答案,但已经看见了一点轮廓,也相信再往前走几步可能会找到东西。

关于好奇心与学习的研究发现,好奇状态不仅会提高人对答案的记忆,也可能改善对同一时期出现的其他信息的记忆。这说明“想知道”并不是学习之前无关紧要的情绪,它本身就在改变大脑如何接收信息。可参见关于好奇心与记忆机制的研究。

AI的默认工作方式,却常常是尽快把未知填满。问题刚刚提出,一个组织严密的答案已经出现。它可能真的解决了问题,也可能只是让问题看起来已经解决。人的好奇心被安抚了,模型却还没有在内部形成。

这不是说答案越慢越好,也不是要故意拒绝效率。关键在于顺序:如果一个人尚未形成自己的问题结构,答案就先替他规定了问题是什么、哪些证据重要、结论应当落在哪里,那么他得到的往往是一份结果,而不是一次思考。

AI是在增强我,还是替代我

判断AI究竟在增强人还是替代人,不能只看它帮我们做了多少,而要看使用之后还剩下什么。

一个简单的检验是:关掉AI以后,我能不能用自己的话重建刚才的逻辑?如果某个前提改变,我知不知道结论为什么会跟着改变?遇到反例时,我能不能修改原模型,而不是立刻再向AI索取另一个答案?

另一个检验是,把结果放到新的情境里。真正进入智力资本的知识,通常可以迁移。它不只让人记住一道题的答案,还让人看见另一道题为什么属于同一种结构。若离开原来的提示和措辞,能力就立即消失,那么答案多半仍停留在工具那里。

这方面的实证研究正在快速发展,结论还远未封闭。一项生成式AI辅助数学学习的随机实验发现,无保护措施的通用聊天式界面虽然提高了练习时的表现,却可能让学生在撤去AI后的独立考试中表现更差;经过专门设计、限制直接给答案的辅导界面则缓解了这一问题。它提示我们,效果取决于AI究竟在帮助练习,还是在替代练习。可参见这项关于生成式AI与学习表现的研究。

所以,AI不是天然让人变聪明,也不是天然让人变笨。决定长期结果的,是它替代了什么,又迫使人练习了什么。

元认知:先看见自己正在发生什么

我能想到的第一个抵抗办法,是元认知。简单地说,就是从正在发生的行为里暂时跳出来,观察自己。

我现在是真的理解了,还是只是拿到了答案?我为什么在这个时候打开AI?我是在清除机械劳动,还是在逃避一段本来应该由自己完成的思考?如果关掉对话框,我还能不能把刚才的逻辑重新说出来?

这个过程不会自动发生。AI回答得越顺,人越容易产生一种熟悉感:文字都看懂了,于是误以为自己已经掌握。为了打破这种错觉,可以在提问之前先留下自己的判断,哪怕它很粗糙;得到回答以后,再关闭AI,尝试重建、推导和反驳。

如果我不能重建它,那么这个答案还在AI那里,没有进入我的智力资本。

多维数据库:让AI成为节点,而不是裁决者

第二个办法不是拒绝外部工具,而是把AI纳入一个更大的认知结构。

在这个结构里,人的大脑是核心节点,个人笔记、原始资料、现实经验和不同功能的AI是其他节点。有的AI负责检索,有的负责寻找反例,有的负责跨领域联想,还有的可以模拟不同立场。

真正有用的数据库不能只保存结论。它还要保留来源、证据强弱、不确定程度、相互冲突的解释,以及一个观点是在什么条件下形成的。否则数据库越大,熟悉的说法越多,人反而越难分辨什么值得相信。

AI可以是能力很强的节点,也可以是一个节点群,但它不应成为整个系统的最终裁决者。选择什么问题、接受什么证据、什么时候修改判断,仍然要由人决定。只有这样,外部智能才会扩展人的认知边界,而不是覆盖人的判断。

时间轴思考:不要被一个时点的完整答案骗住

第三个办法,是把静态分析变成时间轴上的观察。

一个模型可以把已经发生的事情解释得很漂亮,却未必能说明接下来会怎样变化。时间轴思考要求我们继续追问:这个状态是怎么形成的?哪些变量先变化,哪些后来才出现?当前判断会导出什么结果?过去的预测有没有兑现?

一个观点如果只存在于静态文本里,很容易永远显得正确。把它放到时间轴以后,就必须留下时间、条件和可以被检验的预期。过一段时间再回来检查,哪些地方有效,哪些地方失效,哪些因果关系只是事后解释,会逐渐显现出来。

时间轴也能抵抗AI带来的浅层化。AI在某个时点给出的完整回答不必被当成终点。它可以只是一个阶段性版本,等待后续事实、反例和新的经验继续检验。

认知主权不能外包

元认知、多维数据库和时间轴思考,最后都指向同一个问题:AI进入我的认知系统以后,究竟是谁在控制这个系统?

我当然可以把检索、整理、计算,甚至部分推演交给AI。人的大脑本来就会使用纸张、书籍和数据库,没有必要把独自完成一切当成某种纯洁性。问题在于,AI和过去的工具不同。它不只保存信息,还会替人组织证据、解释因果、生成判断。使用者稍不留意,就会从思考者变成结果的接收者。

所以,判断AI是否增强了人,不能只看输出速度和结果质量。还要看一个人在长期使用AI之后,是否形成了更多可以独立调用的知识、模型和判断方法。

危险的状态是,系统越来越强,人却越来越离不开系统。离开AI以后,他无法重建答案,不知道答案用了哪些前提,也没有能力发现答案可能错在哪里。

真正的增强则是另一种状态:AI提高了系统的处理能力,人也因为与AI协作而学会提出更好的问题、寻找更强的证据、识别反例并修改模型。只有这样,AI带来的才是人的延伸,而不是对人的替换。

我不反对从AI那里取得答案。我反对的是,答案来得太快,以至于问题还没有在我内部形成;表达已经完成,我却没有经历形成判断的过程;系统替我完成了思考,我还把系统的能力误认为自己的能力。

因此,有些未知需要暂时留下。它制造的困惑和不适并不全是低效率。有时候,正是因为答案迟迟没有出现,一个人才会继续寻找材料,发现矛盾,修改假设,让原本互不相关的东西慢慢连接起来。过早填满未知,可能同时终止思想的生长。

认知主权不要求我拒绝AI。它要求我在借用AI之后,仍然保有提出问题、重建答案、审查证据和修正模型的能力。

问题为什么值得思考,由我决定;答案是否足够可信,由我审查;判断产生的后果,也由我承担。

如果这些权力仍在我手里,AI就是我的认知延伸。

如果这些权力已经交了出去,那么屏幕上的答案越漂亮,错觉就越完整。变强的只是系统,而那个逐渐失去提出问题、形成判断并承担判断的人,正是我自己。