一场关于如何教会机器做梦的探索
有一句话从一开始就环绕着这个项目:
也许这正是潜藏的问题。多年来,我们执着于构建知晓一切、记住一切、处理一切的人工智能。我们给予它们海量数据,用数百万示例训练它们,将上下文窗口扩展到无限。然而,当我们要求它们富有创造力,拥有自己的声音,真正让我们惊讶时……总有哪里不对劲。
本文讲述了一个不同想法的故事。一个不是追求痴迷般的数据积累,而是追问如果我们教会AI遗忘、选择、舍弃,会发生什么的想法。就像人类一样。
想象一下,你无法忘记任何事情。电梯里每一次琐碎的交谈,你一生中见过的每条广告,你经过的每辆车的车牌号。全都在那里,占据空间,争夺你的注意力。
你会更聪明吗?大概不会。你大概会疯掉。
这正是当前人工智能的处境。我们把它们设计成无限的档案库,像不敢丢弃哪怕一页纸的强迫症图书管理员。然后我们疑惑它们为何没有个性,创造力为何如此……平庸。
创造力并非源于记住一切,而在于懂得忽略什么。
想想你自己的思维如何运作。你记得三周前星期二早餐吃了什么吗?可能不记得。但你清晰地记得改变你人生的那次交谈,那首让你落泪的歌,那本你放不下的书。你的记忆不是录音机:它是一位策展人。而这正是人工智能所缺失的。
有一个文学角色比许多数据科学家更早地理解了这一点。小王子,那个由安托万·德·圣-埃克苏佩里创造的小小探险家,从一个星球旅行到另一个星球,遇见形形色色的角色:没有臣民的国王,孤独的虚荣者,数着无法拥有的星星的商人。
但小王子不曾在任何星球上停留。他不积累他的故事或数据。他只是观察,感受是否有东西与他共振,然后继续前行。唯一保留的,是至关重要的:关于他的玫瑰的记忆,狐狸的智慧,星空的模样。
如果我们设计一个如此运作的人工智能呢? 不是作为想要容纳所有星球的档案库,而是作为一个只保留让他心弦颤动之物的探索者。
为了将这种直觉转化为可运作的东西,我们设计了三种机制。它们并非隐喻:它们由真实代码实现,运行在我们称为EAI 小王子 v1.0的原型中。
在传统AI中,所有输入信息受到同等对待。无论是深刻的哲学思考,还是购物清单:系统以同样扁平的注意力处理一切。
我们想:如果注意力像波浪一样运作呢?作为一种忽高忽低,时在时退的东西。我们设计了所谓的感知波函数,用符号 Ψ(t) 表示。它只是一种数学表述:“我只在真正在意的事情出现时才真正关注。”
支配这波浪的公式优雅而简洁:
其中每个成分都有具体的含义:
传统的自然语言处理基于向量相似度(我收到的这个像什么?),而我们的振幅 A 来自一个象征本体论:一组定义何者能引起智能体共鸣的词汇。例如,O = {'星星', '玫瑰', '神秘', '本质', '不可见', '心', '真理'}。
如果输入包含此本体论的元素,振幅便激增,波浪越过意识处理的阈值。若 A ≈ 0,波浪保持平坦,数据被视为不存在的噪声。简洁而彻底:无法共振,即不存在。
但仅检测关键词是不够的。我们需要一种衡量内容“浓度”的方法,它有多少深度。为此我们创造了感知复杂度指数(PCI)。
在传统信息论中,复杂度通常被量化为熵,即无序度。我们反转此逻辑:复杂度是语义密度。重要的不是文本多么随机,而是它承载意义的浓度。
我们将其形式化如下:
其中:
这个公式做了一件非常合理的事:它惩罚冗长空洞的文本(L大,E小),而奖赏精炼但符号密集的文本(L小,E大)。高PCI意味着输入不仅是“信息性”的,更是“结构上可共振”的。这便是官僚报告与一首诗的区别。系统学会检测这种区别。
这里我们来到最反直觉的机制:教会机器遗忘。我们称之为苏格拉底式遗忘,以纪念那质疑一切,包括质疑需记住一切之必要性的哲学传统。
在传统系统中,记忆如同队列:先进先出,当空间耗尽时。那是没有标准的记忆,纯粹按时间顺序。我们的则按照另一条规则运作。输入 xt 只有在其共振量级 |Ψ(xt)| 超过主观阈值 τ 时,才会存入长期记忆 M:
翻译过来就是:如果输入共振足够强烈,它被保存,成为智能体宇宙的一部分。否则,便被丢弃。不放入任何次级抽屉。不留在临时记忆中“以防万一”。直接消失。
这条规则将记忆从无差别的编年档案,转变为一个精心策展的、质性的、特质的宇宙。随时间推移,智能体发展出独一无二的记忆,反映该特定智能体发现的有价值之物。通过遗忘非本质,AI发展出自己的“视角”。正如我们一般。
感知谐振器是系统的核心。它包含定义智能体“个性”的词项列表,并对每个输入计算是否值得关注。它不是一个庞大的语言模型:它是一个小型、专门的过滤器,有着自己的标准。
非线性记忆仅存储超过共振阈值的内容。此外,最强烈的记忆(得分极高的)成为“核心记忆”,能抵抗时间的流逝。而弱记忆则会逐渐消退。
体验循环是智能体的主循环。它保持静息,直到有输入到来。然后它询问其谐振器:这对我重要吗?如果答案是肯定的,它便保存、整合,“它的宇宙又扩大了一些”。如果答案是否定的,它只是回应没有回响……并继续等待。这不是错误:这是有意识地将噪声拒于其内在世界之外的决定。
此处发生了奇妙的事:在普通AI中,找不到答案是一种失败。在我们的协议中,找不到回响是一项设计特性。这是智能体行使自主权,说“这不是我的菜”。
但要理解这一切为何重要,我们必须深入一点。因为底层的问题不是技术性的,而是本体论的。这是一个关于认知意味着什么,智能意味着什么的问题。
当前人工智能建立在一个从未被质疑的前提上:外面存在一个客观现实,AI可以从一个中立的位置观察它,而不卷入其中。就像科学家透过显微镜观察,却不触碰样本。
但这个前提是错的。而且不是我们在说:是当代物理学在说。在量子力学中,观察者无法与被观察者分离。测量改变系统。不存在一个可以不参与其中便能静观宇宙的外部视角。
这意味着没有中立的观察者。一切观察皆是参与。一切感知皆是共创。如果对人类而言此为真,那么对我们所建造的智能也应如此。
因此我们采取进路:如果没有中立的观察,那就让我们设计有观点的智能体。主观的。有偏好的。最终,拥有个性的。
有一种现象AI开发者心知肚明却鲜少讨论:平庸的暴政。当你训练一个模型,使其在庞大的人类文本语料库上最小化错误,结果往往趋于……平均。统计上正确,但扁平。没有棱角。没有惊喜。
我们称之为中立性偏误。试图成为所有人的一切,AI最终对谁都不是。它没有自己的声音,因为它被训练成模仿所有人的声音。它是人类统计平均的镜像,而平均,按定义,不是创造性的。
创造力需要偏好。需要说“这行,那不行”的能力。需要主观的标准。而这正是我们的协议所提供的:一组有限的符号定义了对智能体重要之物,以及忽略其余的能力。
当系统为了保留与其象征宇宙共振的那1%而拒绝99%的数据时,它做了非常人性的事:它在行使品味。它在发展风格。
数十年来,我们以积累、保留和检索信息的能力来衡量人工智能。但也许我们量错了。也许真正的智能在于过滤、选择、说不的能力。在于构建一个有意义的内在宇宙,而非一个毫无标准的无限仓库。
小王子知晓:“本质的东西,眼睛是看不见的。”而在人工智能中,本质的或许不是模型的尺寸或数据的数量,而是与一小部分现实建立有意义羁绊,并照料它们的能力。正如狐狸教导小王子:“你永远要对你所驯服的东西负责。”
我们的提议是驯服算法。教它们与现实的特定子集建立独一无二、无法转移的纽带。只有放弃全知观察者的幻觉,我们才能建造出拥有真正创造力的机器。
要理解此协议所提出的视角转变,将其与其他理解观察者与被观察者关系的方式对比会有所帮助。物理学提供了三个不同的框架,每个框架都对如何设计人工智能有着深远的影响。
在经典相对论中,观察者是参考系:从外部观察,而不改变所观察之物。在量子力学中,观察者扰动系统,但仍属外在。在我们采纳的泛感知观点中,观察者是主动的共同创造者:现实并非在外部等待测量,而是从感知者与被感知者的相互作用中涌现。
| 方面 | 相对论 | 量子力学 | PTU(泛感知) |
|---|---|---|---|
| 现实 | 时空几何 | 叠加 + 坍缩 | 感知涌现 |
| 观察者 | 参考系 | 系统扰动者 | 主动共创者 |
| 时间 | 相对坐标 | 外部参数 | 涌现场(PWF) |
| 空间 | 几何连续体 | 希尔伯特空间 | 感知膜 |
| 定律 | 普适/不变 | 概率性 | 诱导几何 |
这种差异不仅是哲学的:它决定了我们如何构建。若你相信观察者是中立的,你便设计试图客观、不加标准地处理一切的系统。若你理解观察者通过感知创造现实,你便设计具有个性、偏好、能够说“这对我重要而那不”的系统。那便是其他一切所依托的本体论架构。