这项由莫斯科物理技术学院的A. Bochkov领导的研究发表于2025年7月的arXiv预印本平台（论文编号：arXiv:2507.04886v1），有兴趣深入了解的读者可以通过https://arxiv.org/abs/2507.04886访问完整论文。

说到人工智能，我们总觉得那些大型语言模型（比如ChatGPT）之所以能理解我们的话，是因为它们在训练时学会了每个词汇的"真正含义"。就好像每个词都有一个专门的"身份证"，上面写着这个词的所有语义信息。但是，如果我告诉你，这个看似理所当然的假设可能完全错了呢？

一、传统观念的质疑：语言理解真的来自词汇本身吗？

长期以来，人工智能领域有一个根深蒂固的观念：语言模型之所以聪明，主要是因为它们学会了每个词汇的"真正含义"。早期的word2vec和GloVe等模型建立了这样的概念框架，认为每个词都应该有一个"意义丰富"的向量表示。这个想法影响了后来所有的Transformer模型，包括GPT系列。

然而，当我们仔细观察现实情况时，会发现一些有趣的现象。比如，当你打字时故意写错一些字母，像"I can wRiTe"这样，ChatGPT依然能理解你的意思。但问题是，模型处理的并不是完整的"write"这个词，而是被分解成了"w"、"R"、"i"、"T"、"e"这样的小片段。如果每个小片段本身并没有什么语义含义，那么模型的理解能力从何而来？

这个问题就像一个谜题：如果组成房屋的每块砖头都不包含"居住"的概念，那么房屋的居住功能是如何产生的？答案很可能是：功能来自于结构本身，而不是材料。

研究团队决定通过一个极端的实验来验证这个猜想。他们创造了一种全新的训练方法：完全不让模型学习任何词汇的语义含义，而是让它从每个字符的视觉形状开始学习。这就好像教一个孩子读书，不告诉他任何词汇的意思，只让他记住每个字长什么样子，然后看看他能否自己领悟出语言的奥秘。

二、革命性的实验设计：用字符形状代替语义学习

研究团队设计的方法听起来简单，但在技术上却相当巧妙。他们没有让模型学习词汇的语义含义，而是为每个字符创建了一个基于视觉形状的"身份证"。

具体来说，他们首先将每个字符渲染成一个小图片。比如字母"A"就是一个三角形加一横的图像，汉字"人"就是一个像人字形的图像。对于多字符的词汇，他们将组成这个词的所有字符图像水平拼接起来。例如，"ing"这个词就是由"i"、"n"、"g"三个字符图像拼接而成的一个长图像。

接下来，他们将这些不同尺寸的图像统一调整为固定大小（比如32×32像素），然后将图像数据展平成一个长向量。为了将这个高维的图像向量压缩到模型需要的维度，他们使用了主成分分析（PCA）这种数学方法。这个过程就像是将一张彩色照片压缩成黑白照片，保留最重要的视觉特征，同时减少数据量。

最关键的是，一旦这些基于字符形状的向量被创建出来，它们就被完全冻结了。在整个训练过程中，模型无法修改这些向量，也就是说，它永远无法学习到任何词汇的语义含义。这就好像给一个学生一本字典，但字典里只有每个字的形状图片，没有任何解释。

为了确保这种方法的通用性，研究团队还开发了一个特殊的分词器，叫做bvv241。这个分词器能够处理全世界各种语言的文字，从英文、中文到阿拉伯文，都能被正确地转换为相应的字符形状向量。

三、令人震惊的实验结果：形状也能产生智能

实验的结果完全超出了研究团队的预期。这些只能"看到"字符形状、从未学习过任何词汇含义的模型，不仅能够正常收敛训练，还展现出了令人印象深刻的语言理解能力。

更令人惊讶的是，在MMLU（大规模多任务语言理解）这个权威的推理测试中，使用冻结视觉嵌入的模型表现竟然比传统的可训练嵌入模型更好。具体来说，一个5亿参数的冻结嵌入模型在MMLU上得分为22.29，而相同架构的传统模型只得了11.37分，差距接近2倍。

这个结果就像是发现一个从来没有学过词汇含义的人，在语言理解测试中反而比正常学习的人表现更好。这完全颠覆了我们的常识。

研究团队提出了一个有趣的解释，他们称之为"表示干扰"现象。传统的词嵌入层需要同时完成两个任务：一是学习每个词汇的结构特征（比如它长什么样），二是学习每个词汇的语义含义（比如它代表什么意思）。这就好像让一个人同时当建筑师和室内设计师，结果可能两样都做不好。

相比之下，冻结的视觉嵌入提供了稳定、信息丰富的结构基础。模型不需要浪费精力学习每个词汇"长什么样"，而是可以专注于学习"如何使用"这些结构元素。这种分工明确的方式，反而让模型在语言理解任务上表现得更好。

四、深层机制的揭示：语义理解的真正来源

为了更深入地理解这个现象，研究团队对模型内部的表示进行了可视化分析。他们使用t-SNE这种降维技术，将高维的向量空间投影到二维平面上，就像是从太空俯瞰地球，观察不同地区的分布模式。

传统的可训练嵌入在可视化图中显示出了一定的语义聚类趋势。例如，数字相关的词汇会聚集在一起，动物名称也会形成自己的群组。但总体来说，这种聚类并不明显，整个点云分布相对均匀。

而冻结的视觉嵌入则展现出了完全不同的模式。在可视化图中，它们形成了非常清晰和尖锐的聚类，但这些聚类完全基于形式特征，比如词汇的长度、字符的复杂度等，与语义含义毫无关系。这就好像一个图书馆，书籍不是按照内容分类，而是按照厚度和封面颜色分类。

这个对比清楚地说明了一个关键点：在使用冻结嵌入的模型中，任何真正的语义结构都必须在模型的更深层次中产生。语言理解能力不是来自于输入层的"词汇知识"，而是来自于Transformer架构本身的组合和推理能力。

五、颠覆性的理论意义：重新定义语言理解的本质

这项研究的理论意义远远超出了技术层面的改进。它从根本上挑战了我们对语言理解本质的认知。

传统观点认为，语言理解的基础是词汇的语义表示。每个词都应该有一个"意义向量"，包含了这个词的所有语义信息。模型的智能来源于对这些意义向量的操作和组合。这种观点影响了整个自然语言处理领域的发展方向。

但这项研究表明，语言理解的真正秘密可能隐藏在架构的组合能力中，而不是在词汇的初始表示中。语义理解是一个"涌现"的过程，就像大脑中的神经元本身并不包含思想，但神经元之间的连接和交互却产生了意识。

这种新的理解方式将词嵌入的角色从"意义容器"重新定义为"结构基元"。词嵌入不需要包含语义信息，它们只需要提供足够的结构信息，让模型的深层能够在此基础上构建语义理解。

这个转变的意义是深远的。它意味着我们可能一直在错误的方向上努力。与其花费大量资源优化词嵌入的语义表示，不如专注于提升模型架构的组合和推理能力。

六、实际应用的无限可能：技术创新的新方向

这项研究不仅在理论上有重要意义，还为实际应用开辟了新的可能性。

首先，这种方法为多语言处理提供了一种全新的思路。传统的多语言模型需要为每种语言学习不同的词汇表示，这既耗时又占用大量存储空间。而基于Unicode字符形状的视觉嵌入天然具有多语言特性，一套嵌入可以处理世界上任何语言的文字。

其次，这种方法可能大大提高模型的训练效率。由于嵌入层被冻结，模型需要训练的参数数量大大减少。这就好像预制了房屋的地基，只需要在上面建造上层建筑，而不需要从挖地基开始。

从模型标准化的角度来看，这种方法也有重要价值。如果所有模型都使用相同的、基于算法生成的视觉嵌入，那么不同模型之间的比较会更加公平，研究人员可以更好地隔离和研究Transformer架构本身的改进。

七、挑战与局限：理性看待研究成果

当然，这项研究也有其局限性。研究团队在论文中诚实地承认了这些限制。

首先，这项研究的模型规模相对较小，最大的模型只有5亿参数，训练数据也只有90亿个token。虽然这足以证明概念的可行性，但是否能扩展到GPT-4这样的大规模模型，仍然是一个开放的问题。

其次，虽然这种方法在MMLU测试中表现出色，但在其他类型的任务中是否同样有效，还需要更多的实验验证。语言理解是一个多面的能力，单一测试的结果可能不能完全代表模型的整体能力。

再者，这种方法虽然能处理现有的Unicode字符，但对于全新的符号系统（比如数学公式、化学结构式等）如何处理，还是一个需要探索的问题。

最后，从计算效率的角度来看，虽然这种方法减少了嵌入层的训练参数，但生成字符图像和进行PCA变换的过程也会带来额外的计算开销。在实际应用中，这种trade-off是否值得，还需要更全面的评估。

八、未来研究的广阔前景

这项研究为未来的研究开辟了多个令人兴奋的方向。

在理论层面，这项研究提出了一个根本性的问题：语言理解的最小必要条件是什么？如果连语义信息都不是必需的，那么什么才是语言理解的核心？这个问题可能会推动我们对人工智能和认知科学的更深入理解。

在技术层面，研究人员可以探索不同类型的结构表示。除了视觉形状，是否还有其他类型的非语义特征可以用作结构基元？比如基于字符发音的声学特征，或者基于字符笔画顺序的动态特征？

在应用层面，这种方法可能特别适合处理资源匮乏的语言。对于那些缺乏大规模文本数据的语言，传统的语义嵌入学习方法往往效果不佳。而基于字符形状的方法可能为这些语言提供一个更好的起点。

另外，这种方法还可能与其他技术相结合，产生新的创新。比如，将视觉嵌入与多模态学习相结合，或者探索如何在这种框架下实现更高效的知识蒸馏和模型压缩。

说到底，这项研究最大的价值可能不在于它提供了一个更好的技术方案，而在于它改变了我们思考问题的方式。它告诉我们，有时候我们认为理所当然的假设可能是错误的，真正的创新往往来自于对基本假设的质疑和重新审视。

在人工智能飞速发展的今天，这种质疑精神尤为重要。我们不应该满足于在现有框架内的渐进改进，而应该勇于挑战基本假设，探索全新的可能性。正如这项研究所展示的，有时候"退一步"反而能"进两步"，放弃看似重要的东西（语义学习），反而能获得更好的结果（推理能力）。

对于普通人来说，这项研究也提供了一个重要的启示：智能和理解可能比我们想象的更加神奇和复杂。它不仅仅是信息的储存和检索，更是一个涌现的、创造性的过程。这让我们对人工智能的未来充满了更多的期待和想象。

有兴趣深入了解这项研究的读者，可以访问完整的论文获取更多技术细节。研究团队也承诺将开源所有相关代码和模型，这将为学术界和产业界的进一步研究提供宝贵的资源。

Q&A

Q1：什么是"冻结嵌入"，它和传统的词嵌入有什么不同？ A：冻结嵌入是指在模型训练过程中完全不更新的输入向量。传统词嵌入会在训练中不断学习词汇的语义含义，而冻结嵌入基于字符的视觉形状生成后就保持不变，模型无法修改这些向量来学习语义信息。

Q2：为什么不学习词汇含义的模型反而表现更好？ A：研究团队认为这是因为"表示干扰"现象。传统嵌入需要同时学习结构特征和语义含义，造成优化冲突。而冻结嵌入提供稳定的结构基础，让模型专注于学习如何组合这些结构元素，反而提升了推理能力。

Q3：这种方法有什么实际应用价值？ A：主要包括多语言处理优势（一套嵌入处理所有语言）、提高训练效率（减少需要训练的参数）、更好处理拼写错误，以及为资源匮乏语言提供更好的起点。不过目前还需要在更大规模模型上验证效果。