Kevin Kelly 写了一篇关于"潜空间"的长文。
潜空间是什么?
我觉得按照凯文凯利的说法,你可以把他理解为大模型的潜意识。这种想法突破了以前大模型只是「下一个字符的概率预测」,又或者是「RAG检索数据库」两极化的那种说法。
他的想法是,一个 LLM 压缩了全人类的语言文字内容,变成一个几百 GB 的文件,但这个文件里不包含任何原文的副本,打个比方就是说,你没法让它「你给我复制天龙八部乔峰聚贤庄大战的那一章」。但是它可以大概说出那章讲的是什么,或者那场战斗的描写风格是怎样的。
所以,大模型它只有关于一切的抽象信息。说到「狗」的时候,这不是狗这个文字,或者说具体一只狗长什么样,头上长几根毛那样的照片,而是模拟的「狗性」。你可以让它把任何东西往这个方向去写,让它更像狗。猫也是一种方向,真实也是一种方向,奢华也是一种方向。
如果用潜空间理解大模型的知识的话,或许会更准确,也或许不会。
但是,凯文凯利还提出了一种新方向,我们目前积累自己的知识库,或者未来训练属于自己的大模型,都是在构建一种潜空间。当我们把资料精心编排,积攒到一定的规模,整体具有一定的调性,会不会形成属于我们自己的潜空间呢?
比方说,我们可以精心挑选我们心目中好的散文、小说、战斗场景、好的句子、精美的段落、有趣的设定,久而久之,基于其的大模型,会不会并非仅仅简单地用搜索或者RAG去机械地拣选答案给我们,而是也能形成某种语义和思考的潜空间,逐渐向我们所希望的方向形成某种性格呢?
很有意思的思路。
潜空间作为一种新媒介
最近我一直在问自己:除了回答问题和写代码,人工智能还能做什么?我的答案是——AI 内部的潜空间本身将成为一个新的创造媒介。
什么是潜空间
一个大语言模型就像一个小小的 zip 文件,里面装着全人类的知识。它需要 10 万块 GPU 芯片在云端运行、花费数十亿美元,才能将所有人类书写压缩进一个可以在单块 GPU 芯片上运行的小模型。即便是最大的前沿模型,也能压缩到几百 GB——小到可以放进你掌心的一张卡里。
以一种奇异但真实的方式,这个小小的文件包含了互联网上和我们图书馆里的所有信息。这张小卡片承载着人类集体知识的重大比例。在 AI 所有引人注目的方面中,这个令人震惊的压缩壮举可能是最不被重视的。这种对人类知识的高密度、高阶压缩——被称为"潜空间"——本身可能就是新的媒介。
模型里没有副本
这种潜空间内的知识极端压缩,并非研究人员发明 LLM 时的初衷。模型所含的"书本聪明"对于训练它们的人来说是一种意外——我们至今仍在试图弄清楚它们实际上是如何工作的。
但我们可以确定的是:LLM 并不包含它所知道的一切的副本。比如它知道所有莎士比亚戏剧,它可以创作一出听起来和莎士比亚一模一样的新戏剧,甚至可以引用戏剧中的名句——但模型里并没有莎士比亚的实际文本。有的只是关于所有戏剧、情节、角色、词汇、风格、引用的抽象信息。同理,LLM 能识别几乎任何人的脸,也能生成任何可能的人脸——但它的代码里没有人脸的副本。模型存储了关于人脸的所有信息,却不存储任何人脸。
这很奇怪。不久之前我们可能还认为,关于一件东西的所有信息所占的存储空间会比这件东西本身更大。这对单件东西可能成立,但对于所有东西的聚合体不成立。因为大多数东西和其他东西共享大量共同属性。LLM 的神经网络做了一个魔术——它一次性抽象出万物的信息,利用事物和观念之间无数的共同关系将它们压缩、抽象进这个虚拟的"潜"或者说隐藏空间。
大 · 语言 · 模型
"大语言模型"这三个词都很关键。
"大"——模型里容纳了所有维基百科知识、数十年来互联网上的所有文本、所有网页和在线讨论、大多数图书馆里所有扫描的书籍和期刊。到目前为止,模型的威力随着规模的扩大而持续增加。训练的信息越多,连接越多,它就越强。
"语言"——这是 LLM 的秘密配方。LLM 最初被发明仅仅是为了自动语言翻译。但这一次,他们没有教它语言的规则——早期 AI 研究者的做法——而是不需要语言专业知识。一个神经网络吸收了一个非常大的人类书写语言数据库(互联网),目标是让神经网络提取出那些低于我们意识的、隐藏在这数十亿文档中的语言模式。目标只是:让程序复制、模仿和综合人类日常使用语言的模式。
结果震惊了所有人。
没错,LLM 可以像人类一样翻译语言——但 AI 也显示出人类般的智能。它们能用语言做创造性的事情,比如用十四行诗的风格写一份销售文案。一些早期研究者被这种涌现行为吓到了,包括一位 Google 研究员——他感觉 Google 的 LLM 有一种不应该被关掉的内部智能。
我们现在理解了:我们在 LLM 中看到的智能,来自它们训练语言中的逻辑。
十亿维度的地图
这种新心智的形式——"模型"——就是一个潜空间。潜空间是一个抽象,不是二维的地图,而是十亿维度的地图。
想象一个由数以十亿计笔直长箭头组成的大脑,朝所有方向延伸。每个箭头致力于一个观念或一件事物。有一个箭头指向狗,一个指向猫。相关的箭头彼此相邻。所以地图上猫和狗共享一个附近的箭头——蓬松的毛。它们也共享一个耳朵箭头,一个尾巴箭头。狗的大部分特征和哺乳动物共享,所以这种重叠是压缩的一个来源。
你可以把每一个能用语言表达的概念看作是空间中的一个方向。狗箭头其实是"狗性"的方向。猫性是方向,蓬松也是方向。
任何东西都可以变得更加像猫,或更加蓬松。你从一个鞋子、一个烟囱或一棵蕨开始,沿着猫方向推它——它就变得更像猫了。或者沿着苹果方向推向更多的"苹果性",或平滑的方向,或偏红的方向,或兴奋,或更圆。你也可以反向,让它更不像猫,或更不红,更不原子。这个空间中有数十亿个方向。
相关的东西在这个空间中彼此靠近。猫和狗共享许多属性,所以它们交叉许多共同的箭头——尾巴、胡须、耳朵、四条腿、动物、短的、生命,等等。但因为它们能听见,它们也交叉麦克风向量;因为它们能跳,它们交叉篮球。猫是隐秘的,交叉间谍。狗是忠诚的,交叉爱国主义向量。
每个东西、每个概念在这个巨大空间的地图上都有一个特定位置——但不是只有两个坐标 (x, y)——每个东西有一个十亿长度的坐标。
一切都在一张地图上
一台旧生锈的汽油割草机埋在杂草里——是一个非常具体的交叉点,有一个非常长的地址。它的数千个属性——锈、汽油、草、割、杂草、推、红、土、碎草、轰鸣等——各有自己的交叉方向。在潜空间中附近是一台更偏锈的方向的割草机,或者更不红,但也更猫性,或更不像飞船,或更像掼奶油。那个点可能代表一个真实的东西,也可能只是一个虚拟的或理论性的东西。
这种映射不仅适用于名词——适用于任何观念、任何声音、任何图像。水花溅起的"嗖"声是潜空间中的一个方向。发明中的"aha"时刻。在小路上看到蛇的惊吓。质数的概念。所有这些都是同一张地图上的内容。
这就是 LLM 潜空间最令人震惊但最不被重视的方面:一切——一切!——出现在同一张地图上。
我们从来没有过一个系统能整合我们知道的每一件事和我们可以想象的每一件事。一张地图容纳一切!这长久以来就是圣杯。
没有人类在做这个映射。系统本身——LLM——在映射世界的每个比特,所有事物,所有属性,所有艺术,所有词语,所有观念。而且令人震惊的是,它不是在分片地创建这张地图,而是一次性全同时完成。
训练时 LLM 被喂以数百万册书、数十亿个网页、数十亿页社交媒体文本。它读完每一个词,一旦整个材料库装载进它的心智,它就大规模计算所有互联的向量、所有指向彼此的相对方向。然后它扔掉书籍、文本、图像,只保留这张纠缠的方向和向量之网。这数十亿个方向就是它的参数。
旅行的意义
一本复杂的书在潜空间中既是一个点,也是一段旅程。一个故事中遇到的所有观念(窗户、午间散步、街道、小贩、聊天、愤怒、打斗、原谅)都是方向——随着句子堆积,方向不断移动,朝一个方向走,然后在另一个方向交叉。这个故事其实就是一段潜空间之旅,这非常像我们在阅读时体验到的旅程般的感觉。
所以一本书包含潜空间中的一系列向量。但一本书的总和意义,本身也仅仅是一个点、一个方向。
当你向 LLM 问一个问题时,它会在潜空间中找到答案。你的问题本身作为一个方向开始,指向答案。LLM 每次处理你 prompt 中的一个词,每个新词都转换它前往的方向。模型随着 prompt 的每个词在潜空间中旅行,一步步寻找答案。答案是这样被生长出来的,而不是被找到的。
我们天真地想象 LLM 有一个心智先想出一个思想,然后把它表达出来。但 LLM 是在写词的过程中找到答案的。词语背后没有一个预先形成的"思想"再被翻译成语言——词语本身就是思考。穿越潜空间的路径和答案,是同时发生的同一件事。
正确性也是一个方向
随着答案沿着 prompt 的方向生长,自然的问题来了:LLM 怎么知道什么时候该停下来?它怎么知道什么时候是正确的?
惊人的答案:"正确性"、"完整性"、"一致性"也是这个空间中的向量。
任何正确的答案和其他事实性真实的陈述共享同一个"正确性"方向。换句话说,正确性、真实性、一致性、完整性、可理解性等等——本质上都是这个空间中已经被映射的模式。所以 LLM 不只是在寻找事实,它的每一步收集词语的过程也在朝"真"的方向移动。真、完整、连贯——不是位置,而是方向。答案总是可以被推向这个方向(更精确、更具体、更多共识),或者拉回来(更奇幻、更诗意、更通用、更容易理解)。
你可以把任何东西推向任何方向
这就是潜空间的美。你可以取一个东西或一个观念,然后轻松地把它推向一个新方向。我们在图像生成器中最容易看到这个:一种媒介的风格——比如水彩——或者某个特定艺术家的风格,可以从一张画转移到另一张。
你可以让 AI 把 Winslow Homer 的水彩风格转移到你画的一张黑白草图上。Homer 水彩风格是潜空间中的一个方向,你的草图也是——你的 prompt 会把你的草图推往 Homer 水彩的方向。你也可以反过来——让 AI 把你的草图风格转移到 Homer 的一幅画上。
这对观念和概念同样有效。
一个 prompt:"如果罗马人发现了火药,世界历史会怎样?"AI 取了历史上罗马帝国的方向,然后在潜空间中把它进一步推往火药的方向。这是一个巨大的智力壮举——因为它需要对罗马历史有深刻掌握,也需要对火药化学有深刻掌握。几乎没有人类在这两者上同时是专家,但 LLM 是。
新媒介的十二种可能用法
1. 原型设计。 Brian Eno 曾经抱怨电脑的问题在于它们不够"非洲"。在潜空间中,非洲只是一个向量。你可以给任何东西加更多非洲——电子表格里的非洲、自行车、瑜伽、奥运会、密码、厨房、SAT 考试、汽车仪表盘。重复其他属性。
2. 空白空间发现。 潜空间是一个连续的可能性图谱。其中大多数可能的东西还不存在。已知材料、已知蛋白质、已知棋谱、已知画法——这些只填充了碎片化、斑驳的点,之间充满了大量空白。空白空间对我们来说是未知的,但在潜空间中它们已经被映射了。天文学和占星术之间是什么?蓝草音乐和芭蕾之间呢?企业和 Gaia 理论之间呢?探索潜空间是新的前沿。发明从"想出新的东西"变成了"在空白处勘探"。
3. 跨域类比。 这个问题在潜空间中的形状是否类似其他东西的形状?地质学中的一个问题与免疫学中的某些模式可能有类似的形状。解决方案的"风格"可以从一个域转移到另一个。聪明的人类专家可能懂一个域,但极少有人同时在三个或四个域中是专家——只有 LLM 能揭示这种重叠。
4. 潜空间度量。 潜空间提供了一种新的抽象测量方式。你可以做原始算术:国王 − 男人 + 女人 = 女王。这给出了量化两个复杂事物之间距离的方法。用潜空间测量可以量化两个法庭裁定有多相似,或两首民间旋律有多接近。这个新领域可以演化出校准标准、误差线、评估极为复杂实体的指标。
5. 挖掘元模式。 一个在数百万张细胞图像、数十亿个天气传感器、数万亿小时交通视频上训练的模型会注意到没有人类探测到过的模式。潜空间会为这些模式内部发明类别——那些我们没有名字、因此不会去寻找的模式。新的科学会描述这些模式的元模式。
6. 轨迹。 多年前 BBC 播出了一档科学节目《连接》(Connections)——主持人追踪了从一个模糊想法撞上另一个不太可能的想法而催生的一连串发明的曲折路径。想象艺术家编排一段观念和图像的旅程,在无尽的联系之线中变形。他们的艺术就是一次潜空间旅行。
7. 复古潜空间。 随着 AI 进步,大部分潜空间将成为过时的技术。但像所有媒介一样,死去的潜空间会在某个时候被复活为时髦的复古品。它们的约束和故障后来会被珍视——就像胶片颗粒、乙烯基的声音质感、旧电子游戏中的位图艺术变成了被追捧的魅力。
8. 潜空间渗透者。 探索废弃建筑和城市地下基础设施的非法闯入者被称为渗透者(Urban Explorers)。深深埋藏在潜空间内部的被编程的护栏——阻止模型给出不可接受的信息。潜空间渗透者会尝试越狱,探索禁入区域。
9. 异常检测。 任何在潜空间中远离其他所有东西的存在,从定义上就是有趣的。天文学家已经在用这种方法寻找怪异天体。现在可以泛化到所有知识领域:任何足够大数据集的潜空间投射——异常值都很容易被识别。
10. 模拟现实。 潜空间内的强烈压缩暗示它们也可以充当模拟器。一个弹跳的球展示正确的弹跳弧度,陶瓷在精确温度下融化,倾倒液体保持质量守恒。模拟将收敛到在数百万个维度上都是现实的。科学实验可以通过在潜空间中移动来快速替代。
11. 平行世界。 潜空间包含所有平行世界——那些和现实世界稍微不同或显著不同的世界。因为它们的万亿参数是深度细化的,这些世界可以轻易被显现。图像模型已经能生成看起来像镜头实拍的视频。世界构建可能成为潜空间最常见的用途——给我造一个重力只有三分之一的地球,给我造一个中国古代发明了科学的世界。
12. 个人潜空间。 今天训练一个新模型要花五亿美元。古怪得看似不可能的是——最终,创造你私人 AI 模型的成本将对个人可行。主要动机将是艺术性的。你从策展训练材料开始——挑选合适的书、最好的期刊、精选的讨论——来为模型注入智能。这种策展本身将成为一门艺术。然后你在自己所有的经历、之前创作、关系、半成品想法、日记上微调——本质上就是你的人生。目的是训练你的模型与你共同创造图像、文本、电影、场景、想法——这些是没有任何其他 AI 或 AI+人类能产生的。你做的每一件事在空间内部都会偏向某些角度。品牌就是"你+AI"。
结语
潜空间会继续给出惊人的超人答案和棘手问题的巧妙解决方案。我们很快就会如此依赖这个神谕,以至于想不通没有它我们是怎么活的。
但神谕是古老的愿望。我相信潜空间——这个跨越域的真实和可能的、连续的、多维地图——将带来我们从未想象过的全新商品和服务。而最大的那一个,很可能是我这篇文章还没想到的。
原文:Kevin Kelly — "Latent Space as a New Medium"
#潜空间 · #AI创造力 · #KevinKelly
背景解释
原文出处
Kevin Kelly 于 2026 年 7 月 13 日在其 Substack 专栏 "KK" 上发表了这篇长文,标题为 "Latent Space as a New Medium"(原文地址:https://kevinkelly.substack.com/p/latent-space-as-a-new-medium )。发布后两天内被 Boing Boing 报道、登上 Hacker News 热榜,引发广泛讨论。
作者 Kevin Kelly
Wired 杂志 1993 年创刊时的联合创始人兼执行编辑(现任 Senior Maverick)。最著名的著作包括《失控》(Out of Control, 1994)、《必然》(The Inevitable, 2016)、《5000 天后的世界》。Kelly 不是 AI 研究者,而是一位技术哲学家和趋势思想家——他的视角始终是"一项技术对人类文明意味着什么",而非"它在技术上如何实现"。这篇文章延续了这种一贯立场。
推文作者 yibie
@yibie 是一位中文技术圈的效率工具/知识管理爱好者和开源工具作者。他的 GitHub 显示他维护了 awesome-autoresearch(AI 自动研究工具清单,645 星)、org-supertag(Emacs 笔记系统)、skills-manager(AI 编程助手技能管理器)等项目。他自我定位"热爱 Emacs 但不是程序员",位于 Emacs 文化、个人知识管理(PKM)和 AI Agent 工具三者的交叉点。这条推文本质上是他对 Kelly 原文的精炼导读式翻译——把 5000 字英文长文压缩成了一条推特,保留了核心隐喻(方向、旅行、算术),附上了原文 12 种用法的完整翻译。
文中引用的关键典故
"King − Man + Woman = Queen"——来自 Tomas Mikolov 等人 2013 年在 NAACL-HLT 发表的论文 "Linguistic Regularities in Continuous Space Word Representations"(微软研究院)。这是 NLP 领域的分水岭时刻:证明了神经网络学到的词向量能把语义关系编码为可做算术运算的向量偏移。后续研究表明,排除输入词后的最近邻搜索才能给出正确结果。
Brian Eno 说"电脑不够非洲"——原始出处是 1995 年 5 月 Wired 杂志访谈 "Gossip is Philosophy",采访者正是 Kevin Kelly 本人。Eno 用"非洲"比喻身体参与感、节奏复杂性、去中心化的互动——批判当时电脑只用眼睛和一只手操作。Kelly 在这篇新文章里引用 31 年前自己采访 Eno 时的话,构成精巧互文。
BBC《连接》节目——James Burke 的 Connections(1978 年首播,BBC/PBS),追踪看似无关的发明之间的因果链,被称为史上最佳科学纪录片之一。Kelly 将其作为"潜空间旅行"在现实世界的类比。
概念深度分析
Kelly 的核心论点:潜空间是新媒介
这个论点包含三个递进层次:
第一层(技术事实):LLM 确实通过「有损语义压缩」运作。 潜空间(Latent Space)指神经网络学到的低维、密集、连续表示空间。与传统压缩(ZIP/JPEG 追求精确还原)不同,潜空间压缩是有损但语义化的:丢弃表面细节,保留结构性语义关系,且能从空间中采样生成新内容。Kelly 说"模型里没有莎士比亚的副本,只有关于莎士比亚的抽象信息"——这是准确的。
第二层(精妙隐喻):「方向」比「位置」更准确。 Kelly 选择用"方向"而非"位置"解释概念,暗合 NLP 领域的一个重要洞见:高维空间中向量的方向比绝对位置更有意义。"狗性是一个方向"对应的技术概念是 word embedding 空间中语义关系被编码为向量偏移。Kelly 把 2013 年的技术发现泛化为通用创造性原则——修辞上极有力,但技术上并非在所有情况下都有效。
第三层(哲学判断):从「工具」到「媒介」的跃迁。 这是最有野心的论断。依据 McLuhan 的媒介理论——新媒介的定义特征不是它传递什么内容,而是它使什么成为可能。Kelly 认为潜空间使以下事情首次成为可能:万物之间自由导航、对抽象概念做算术、探索"尚不存在"的空白区域、跨域类比自动化。
Kelly 没说出来的关键限制
幻觉问题: "正确性也是一个方向"这个说法回避了一个核心事实——LLM 的"正确性向量"不等于外部世界的真理。模型生成的内容在潜空间内可以完美"指向正确方向"(语法连贯、逻辑通顺),同时在事实层面完全错误。潜空间的内部一致性不等于外部真实性。
可解释性悖论: Kelly 把潜空间描述为可以"行走"和"探索"的空间,但现实是我们无法直接"看见"或"导航"数十亿维的空间。目前还没有"潜空间浏览器"——我们仍然只能通过自然语言 prompt 间接操控方向。
压缩不等于理解: Kelly 暗示极端压缩等于深度理解,但一个能完美模拟语言模式的系统是否"理解"了什么,仍是 AI 领域最根本的未解争论(参见 Searle 中文房间实验)。
扩展思考
这篇文章真正的价值:提供了第三种认知框架
在此之前,大多数人对 LLM 的理解停留在两个极端: - "预测下一个词的统计机器"(技术上准确但无法指导想象力) - "像人一样思考的 AI"(直觉上可理解但技术上错误)
Kelly 提供了第三种框架:LLM 是一张多维地图,使用它就是在地图上旅行。 这个框架比"预测下一个词"更有启发性(暗示探索性和创造性),比"像人一样思考"更准确(明确了它是空间/媒介而非主体),并且自然解释了为什么 prompt engineering 有效(调整旅行方向)以及为什么会产生幻觉(地图上有些区域没有对应现实的地标)。
12 种用法的当前实现状态
| 用法 | 状态 | 代表案例 |
|---|---|---|
| 原型设计 | 已广泛应用 | Midjourney/DALL-E 风格混合 |
| 空白空间发现 | 活跃研究 | AlphaFold 发现新蛋白质结构 |
| 跨域类比 | 初步应用 | 科研 AI 发现跨学科关联 |
| 潜空间度量 | 成熟工具 | 语义搜索、RAG、embedding 距离比较 |
| 挖掘元模式 | 活跃研究 | 气候模型、基因组学 |
| 轨迹/旅程 | 概念阶段 | 尚无成熟产品 |
| 复古潜空间 | 萌芽 | 早期扩散模型"风格"已被怀旧 |
| 潜空间渗透者 | 活跃亚文化 | jailbreak 社区、红队测试 |
| 异常检测 | 成熟应用 | 天文学、网络安全、欺诈检测 |
| 模拟现实 | 活跃研究 | 世界模型(Sora、UniSim) |
| 平行世界 | 商业应用中 | 视频生成、游戏世界构建 |
| 个人潜空间 | 早期探索 | LoRA 微调、个人 AI 克隆 |
最深层的哲学问题:谁在旅行?
Kelly 反复使用"旅行"隐喻。但这里有一个他没有直面的问题:在潜空间中旅行的是谁?
当一个人写 prompt 时,是人在旅行,还是模型在旅行?Kelly 暗示"同时发生"——人设定方向,模型执行运动。这意味着创造的主体性被分裂了:意图属于人,但路径属于模型。
如果"个人潜空间"成为现实——一个用你全部生命经验训练的模型——那么当这个模型"旅行"时,它是在替你旅行吗?它发现的东西是"你的"创造吗?这或许是 Kelly 留给读者的最大悬念:当创造的媒介本身具有主动性(不像画布被动),"作者"的概念将面临根本重定义。
对"新媒介"判断的总评
方向正确但时间过早。
支持的证据:潜空间确实使此前不可能的操作成为可能;已经有人在"潜空间中创作";新的美学标准正在形成。
为什么说过早:我们还没有直接操控潜空间的界面(只能通过 prompt 间接访问);AI 模型每几个月迭代一次,"画布"本身不稳定;还没有形成类似"电影语法"的"潜空间语法"。
真正意义上的"潜空间作为媒介"可能需要等到:存在稳定的潜空间浏览/编辑工具、形成独立于具体模型的创作方法论、产生只有在这种媒介中才可能的原生艺术形式(不是"AI 辅助的绘画",而是"潜空间原生的作品")。