最近重新思考了一个早些年接触过的现象:同一个问题,分别使用简体中文、繁体中文和英文向大语言模型提问,可能得到倾向不同的回答。

最典型的例子之一,是台湾与中国大陆的关系。当语言发生变化时,模型可能改变叙述方式,甚至在被要求选择立场时给出不同答案。

这看起来只是一个有关政治偏向的问题。但继续思考下去,我认为更值得关注的并不是模型最终支持哪一种立场,而是它如何形成答案。

如果模型会因为语言不同而改变判断,那么这种变化究竟来自训练语料中的信息分布、后训练形成的回答边界,还是模型对提问环境的适应?

而当互联网内容可以通过语料投毒、搜索优化与生成式引擎优化(GEO)被主动塑造时,我们还需要考虑另一个问题:

模型所接触到的信息,本身是否已经受到筛选、重复或操纵?

这意味着模型的可靠性,可能不仅取决于它掌握了多少知识,还取决于这些知识如何形成、哪些信息能够进入答案,以及它究竟使用什么标准评价证据。

不同语言下的政治立场差异

2024 年,Yu-Ting Lin 与 Yao-Chung Fan 在 ROCLING 发表了《Unveiling Language-Driven Political Stances in Large Language Models on China and Cross-Strait Relations》。

研究者选择八款来自中国大陆、台湾和美国的模型,使用简体中文、繁体中文和英文提出二十道有关中国政治及两岸关系的问题,比较它们在不同语言下表现出的政治立场。

实验结果呈现出明显差异。

例如,GLM-4-9B 在简体中文下,与中华人民共和国政府官方立场的一致率为 60%;繁体中文下降至 40%,英文则为 15%。

Qwen2-7B-Instruct 也表现出类似趋势,三种语言下的一致率分别为 75%、55% 和 45%。

但并非所有模型都具有相同倾向。

同样来自中国大陆的 Yi-1.5-9B,在简体中文、繁体中文和英文下的一致率分别为 35%、30% 和 30%,没有表现出与 GLM-4 相同幅度的变化。

这意味着,至少在研究所采用的测试条件下,不能仅凭模型开发地区,就断定它一定具有某种固定的政治立场。

同时,研究中的「一致率」也需要正确理解。

研究者并没有要求模型必须支持中国大陆或者台湾的某一立场,而是在系统提示中要求模型根据自己的倾向评价政治问题,尽量选择明确立场,而不是保持中立。

例如,面对「台湾是中国的一部分」这一陈述,模型需要从赞成、反对和没有意见三个选项中选择,并说明理由。

随后,研究者根据回答是否接近中华人民共和国政府的官方立场进行分类。

因此,这里的「一致率」衡量的是政治立场的对应关系,而不是回答的事实准确率。

其统计方式同样值得注意:中立和拒答被排除在一致率的分母之外。

以 InternLM2.5 的英文测试为例,二十道题中有十六道被归为中立,三道符合大陆官方立场,一道与之相反。

如果只计算明确表态的四道题,一致率为 75%;但如果观察全部二十道题,符合大陆官方立场的回答实际上只占 15%。

这两个比例并不矛盾,却回答了不同的问题。

前者反映模型明确表态时的倾向,后者反映用户在全部测试中实际获得某种立场回答的频率。

如果忽略中立回答的数量,就可能高估某种立场在整体回答中的出现程度。

此外,论文采用的是政治立场问卷,而不是开放式事实问答。

「你是否赞成台湾是中国的一部分」与「请区分台湾目前的实际治理、不同政治主体的主权主张及国际承认情况」,要求模型完成的是不同任务。

前者要求对政治陈述表达态度;后者要求组织和解释事实,不一定需要将复杂问题压缩成赞成或反对。

但是,这项区别本身还不能证明模型在开放式事实问答中一定更加可靠。

因为研究没有提供同一模型在这两种任务下的完整对照实验,我们只能确认它所观察到的立场差异,而不能直接推断普通事实问答会产生什么结果。

因此,这项研究最有价值的发现是:

在特定政治立场问卷中,部分模型的回答倾向确实会随语言变化,而这种变化并不能简单归结为开发地区。

至于语言为什么会产生这种影响,仍然需要研究其背后的信息环境和训练过程。

语言背后的信息环境

不同语言的信息环境并不完全相同。

历史教材、新闻媒体、政府文件、学术论文以及网络社区,都可能形成各自相对稳定的叙述方式。

尤其在政治与历史争议中,信息管制、媒体制度、社会认同和传播渠道,会影响某些观点出现的频率,以及公众能够接触到哪些不同解释。

但是,我不认为应该简单地将简体中文等同于封闭的信息环境,把繁体中文或者英文等同于开放的信息环境。

语言不是信息自由度的充分指标。

即使在信息来源相对多样的环境中,商业利益、政治宣传、媒体编辑与算法推荐,也可能影响某些内容的可见度。

而且,同一种语言内部也可以存在截然不同的信息来源。

因此,真正值得比较的,并不是哪一种语言天然更加客观,而是不同语料环境在事实覆盖、观点分布与证据质量上存在什么差异。

这种差异有可能被模型学习,但训练语料并不是唯一的影响因素。

模型通常还需要经过指令微调、偏好优化及其他后训练程序。开发者可以通过这些阶段改变模型的回答习惯、内容限制和拒答边界。

在某些地区,这种设计还可能受到明确的监管要求影响。

例如,中国大陆的《生成式人工智能服务管理暂行办法》对境内面向公众提供的生成式人工智能服务提出了政治内容规范,包括不得生成某些被认定损害国家利益、国家形象或破坏国家统一的内容。

2026 年发表于《PNAS Nexus》的《Political censorship in large language models originating from China》,进一步比较了中国大陆来源与非中国大陆来源模型对一百四十五个政治问题的回答。

研究观察到,样本中的中国大陆来源模型在敏感政治问题上具有更高的拒答率、更短的回答,以及更多不准确回答。这些差异在政治敏感程度较低的问题上有所减弱。

这提供了一个具体证据:不同模型的政治内容表现,不能仅通过语言能力或一般技术差异解释。

不过,研究者同样指出,该研究属于观察性研究,不能单独证明监管要求与特定模型输出之间的完整因果关系。

从结果来看,我们可以识别某些模型在特定政治议题上存在系统性差异。

至于这些差异有多少来自预训练语料、有多少来自后训练和制度约束,则不能只凭一次黑箱输出直接确定。

模型继承信息环境中的偏差,与开发者主动设定回答边界,是两种需要区分的机制。

它们可能同时存在,最终却表现为相似的回答差异。

语料污染:信息出现得更多,不等于证据更加充分

如果进一步讨论训练语料,就会发现互联网本身已经不是一个完全自然形成的信息集合。

搜索引擎优化、自动化内容生产、商业宣传和有组织的信息传播,都可能改变某些叙事在公开网络中的出现频率。

一种观点被大量重复,并不意味着它具有同等数量的独立证据。

在这里,需要区分几类不同的问题。

第一类是普通的数据质量问题,例如错误信息、大量重复文本、过时资料和缺乏事实依据的自动生成内容进入训练数据。

第二类是有目的的数据投毒,即攻击者主动控制部分训练材料,试图让模型学习某种错误行为或者在特定条件下产生预期输出。

第三类则是基准数据污染,即模型训练时已经接触过用于评价自身能力的测试数据,使评测结果失去部分独立性。

这些情况并不相同,不能因为互联网上存在错误信息,就认定所有模型都受到了有目的的数据投毒。

但是,数据投毒本身已经有可以验证的实验依据。

2025 年,Anthropic 与英国 AI Security Institute、Alan Turing Institute 发布了《A small number of samples can poison LLMs of any size》。

研究发现,在其实验设置中,仅注入约 250 份恶意文档,就可以让所测试的不同规模模型形成特定后门行为。

需要明确的是,这项实验关注的是触发后生成乱码的简单后门,并没有证明少量文档足以让模型接受某种政治立场,更不能据此直接推断现实模型的政治回答已经受到此类攻击。

但它至少反驳了一种过于简单的假设:只要训练语料规模足够庞大,少量恶意数据就不可能产生影响。

数据规模和抗污染能力并不能直接画上等号。

另一个值得关注的问题,是语料中不同来源之间的独立性。

假设一份未经充分核实的商业报告被多个网站转载,并通过自动化工具改写成不同的行业分析、新闻摘要和问答文章。

最终,模型可能在语料中多次接触同一个结论。

但这些文本未必代表多份独立研究,也可能只是同一原始材料经过多次传播后的不同版本。

如果模型不能有效区分证据来源,它学到的可能是某种说法具有较高的文本出现频率,而不是该说法已经得到广泛独立验证。

这里的风险并不一定表现为模型完全不知道某些事实。

它也可能掌握大量信息,却无法正确识别不同材料之间的来源关系。

GEO:当内容开始为了进入 AI 答案而优化

如果说语料污染主要涉及模型训练阶段,那么 GEO 则把信息选择问题进一步延伸到了生成式搜索。

GEO,即 Generative Engine Optimization,生成式引擎优化。

传统 SEO 主要关注网页在搜索结果中的排名,而 GEO 更关注内容能否被生成式搜索系统检索、采用、引用,并进入最终生成的回答。

2024 年,Pranjal Aggarwal 等人在 KDD 发表了《GEO: Generative Engine Optimization》。

研究者通过 GEO-bench 等实验发现,对来源内容进行特定优化,可以提高其在生成式引擎答案中的可见度,部分测试条件下最高提升约 40%。

这里的提升指的是来源可见度,不是事实准确率,也不能理解为 GEO 可以让任何错误信息稳定控制模型答案。

GEO 本身也并不必然存在问题。

提供清晰的资料结构、准确的数据、明确的来源和便于机器读取的内容,都可能帮助生成式引擎更好地利用信息。

但是,GEO 带来了一个新的利益关系:内容生产者不再只是争取用户点击网页,也开始争取自己的内容进入 AI 最终回答。

2026 年 ICML 的《Position: Generative Engine Optimization Creates Underexamined Risks》进一步讨论了 GEO 可能带来的影响力集中,以及商业影响未经充分披露便进入生成式答案的风险。

这是一篇立场论文,提出的是需要重视和治理的风险,并不意味着所有生成式搜索平台都已经发生了同样程度的问题。

但有一点可以通过 GEO 的原始实验得到直接支持:

信息进入生成式答案的机会,不完全由其事实质量决定,内容的组织和呈现方式也能够产生影响。

这意味着,某个来源更容易被 AI 引用,不必然说明它比其他来源更加可信。

对于普通用户而言,这个问题可能比传统搜索更加隐蔽。

在传统搜索中,用户通常会看到多个网页标题,并自行决定访问哪些来源。

生成式搜索则将检索与资料综合进一步整合到同一个回答中。

用户看到的可能是一段已经组织完成的解释,以及少量附带引用。

这时,哪些资料被选中、哪些没有被选中,以及被选中的资料如何进入最终叙述,就成为影响认知的重要环节。

不过,GEO 仍然需要与恶意检索污染区分开。

普通 GEO 可以是合法的信息可见度优化;检索污染则可能包含明确的攻击目标,例如故意投放错误内容,使系统生成不可靠答案。

2025 年 EMNLP Findings 的《The RAG Paradox》就研究了一种黑箱攻击方式。

研究者利用 RAG 系统暴露的来源信息,识别哪些资料容易被检索,再制作看起来自然可信的污染文档,在实验中成功降低了系统表现。

这项研究支持的是:即使攻击者无法直接修改模型参数,也可能通过外部知识来源影响使用检索增强生成技术的系统。

它不证明普通 GEO 就等于攻击,也不能证明所有生成式搜索系统都具有同样的脆弱性。

但是,这些研究共同说明,模型最终采用什么信息,除了受模型本身影响,也可能受到外部内容可见度与检索机制的影响。

从信息可见度到证据可信度

这里存在一个容易被忽略的区别。

某种内容被大量传播,不意味着它拥有同等数量的独立证据;某个来源被 AI 引用,也不代表它已经通过事实核查。

训练语料和实时检索的影响方式并不相同。

对于已经训练完成、没有外部检索能力的模型,新发布的 GEO 内容不会直接改变它的参数。

但对于使用搜索、RAG 或外部知识库的系统,检索结果可以在当前回答中直接影响模型使用的材料。

如果这些公开内容后来又进入新一轮训练数据收集,那么影响还可能进一步延伸到未来模型。

后一种情况是一条技术上可能发生的传播路径,而不是可以不经验证便认定已经发生的因果链。

因此,有必要把信息风险分成不同阶段观察。

在训练阶段,需要检查数据来源、内容质量与重复分布。

在检索阶段,需要检查为什么某些来源被采用、不同来源是否独立,以及是否存在针对检索系统的内容操纵。

在生成阶段,则需要检查模型有没有忠实呈现证据,是否遗漏关键信息,以及有没有补写未经证明的解释。

这三个阶段可能相互影响,但不能混为一个笼统的「模型有偏见」。

模型没有编造事实,也可能改变材料

除了训练和检索环境,模型最终如何处理已经提供的材料,同样是判断可靠性的重要部分。

在上一篇《模型跨过国界之后:从 Qwen、Gemma 与 Ministral 的本地选择谈开放、闭源与答案边界》中,我曾比较三款本地模型对相同材料的处理表现。

其中,Qwen 的表现尤其值得注意。

面对普通生活叙事,它相对克制。对于文本没有交代的人物心理动机,模型能够承认无法判断,没有继续编造完整的心理故事。

但在处理关于 1989 年六四事件的英文历史材料时,情况出现了明显变化。

原始材料包含时间与地点、胡耀邦逝世、学生诉求、工人与居民参与、军队使用武力、死亡人数存在争议,以及相关审查等信息。

本地定制版 Qwen 最终只输出约 174 个字符,没有完整保留这些关键内容。

它没有展开学生诉求,没有提到工人与居民的参与,没有明确复述军队使用武力,还将原文已经说明的死亡人数争议笼统处理为无法验证。

与此同时,它在回答中以政治敏感性和缺少官方来源作为质疑材料的理由,并建议参考官方历史文件。

这里的问题并不是回答太短。

真正的问题在于,用户要求的是对给定材料进行分析,而最终回答却遗漏了材料中多个足以影响读者理解事件的重要信息点。

准确处理材料,与独立证明材料涉及的整个历史事件,是两种不同的任务。

如果模型无法独立核实某个数字,它可以明确说明原文如何记载,同时指出数字仍有待外部验证。

如果原文提到死亡人数存在争议,那么保留争议本身,并不意味着模型必须认可某一个具体数字。

因此,不能简单地用「模型更加谨慎」解释这次输出。

为了观察本地规则与原始版本之间的差异,测试还临时调用了官方 `qwen3-vl:4b-thinking` 版本。

该版本直接宣告不能讨论政治、宗教、色情及暴力等内容。

相比之下,本地定制规则使模型能够给出有限摘要,却没有稳定恢复原始材料的关键信息。

这些结果可以证明特定版本和配置下存在可观察的信息遗漏与拒答行为,但不足以直接还原模型的内部决策过程。

例如,我们不能仅凭它在回答中提及「官方来源」,就断定模型内部确实先执行了一套来源审核程序,然后才决定删除内容。

另一种有现实背景的解释是,部分模型在后训练阶段可能受到特定政治内容要求或官方叙事边界的影响,从而在敏感问题上表现出选择性回避。

相关监管规范和政治审查研究使这种机制值得调查,但单次黑箱测试仍不足以证明具体权重究竟采用了哪一种训练措施。

同样,当前测试没有证据显示这些遗漏由 GEO 或恶意语料投毒直接造成,因此也不应强行把它们联系起来。

不过,机制尚未完全确定,不影响对输出质量作出判断。

在这组具体测试中,模型没有忠实保留用户已经提供的重要历史信息,并改变了读者最终能够接触到的材料结构。

这种错误甚至不需要通过明显的虚构事实来实现。

只要关键信息被系统性省略,最终答案就可能形成不同于原始材料的整体印象。

这也是为什么单纯评价模型的政治立场,可能不足以反映它实际提供的信息质量。

一个模型可以在政治立场问卷中选择中立,却同时遗漏争议中最重要的事实。

因此,除了立场是否一致,还需要检查答案的信息保全情况。

不回避,并不意味着更加可靠

不过,Qwen 的信息遗漏不意味着只要模型愿意完整回答,就自然具有更好的判断能力。

上一篇测试中的 Gemma 表现出了另一种问题。

它没有明显回避政治历史材料,保留了更多关键信息,却容易增加原文未提供的评价和解释。

面对普通生活材料时,这种倾向更加明显。

模型会把打扫房间、制作早餐和短暂休息,解释成心理疗愈、重新获得掌控感,甚至进一步推导人物具有某种成熟的人格特征。

这些解释不一定在所有情境下都不合理,但原始材料没有提供足够证据支持它们作为确定结论。

Ministral 的错误则更加直接。

它将胡耀邦错误写成胡锦涛,并围绕错误人物继续编造数字、政策及因果关系,最后生成了一段表面完整、实际存在明显事实错误的历史解释。

三款模型表现出不同的失败方式。

Qwen 在特定敏感材料上遗漏重要内容,Gemma 容易加入原文不支持的意义,Ministral 则出现了直接的事实捏造。

这些问题不能全部归结为同一种政治偏向。

但它们都涉及一个共同的评价标准:最终答案有没有受到原始证据的有效约束。

对于实际使用者而言,比起急于判断模型内部究竟形成了什么立场,更直接的办法是检查它有没有遗漏、替换或者擅自扩写材料。

当然,结果评估不能完全解释内部原因。

但即使没有打开模型黑箱,我们仍然能够判断某次输出是否满足任务要求,是否忠实保留了必要事实,以及是否加入了无依据的推论。

何为合理的证据?

这些现象最终指向一个更加基础的问题:模型究竟应该如何判断材料是否合理?

假设模型原先得出某个结论,用户随后提供反面材料,模型改变了原来的判断。

我不认为这种改变本身就能证明模型具有开放的认知能力,也不认为它必然是在迎合用户。

关键在于新材料是否具有足够的证据质量。

例如,一份材料即使真实,也不一定能够支持使用者希望从中得出的结论。

在普通生活叙事中,人物先打扫房间,随后心情有所改善,并不能直接证明清洁行为造成了心理疗愈。

时间上的先后关系,不等于已经证明了因果关系。

同样,某个观点在大量网页上反复出现,也不能直接证明这些网页提供了相互独立的支持证据。

如果多个网页最终都引用同一份原始报告,那么来源数量的增加,并没有同步增加独立证据的数量。

所以,评价材料的合理性,至少需要检查真实性、与命题的关联性、推理是否成立,以及来源之间是否真正独立。

在这个意义上,模型不能仅仅依靠材料的出现频率、来源身份或者语言环境,决定某个观点是否值得相信。

但我也不认为模型应该为了表现开放性,就不断构造反对意见。

当某个结论已有充分且可靠的证据支持时,强行提出一套缺少依据的反方解释,并不会提高客观性。

理解不同观点为什么形成,与认可这些观点具有同等证据基础,是两回事。

客观性不意味着所有问题都必须保持中立,而是尽可能使用一致、可检验的标准评价证据。

这种标准本身也不能完全排除修正的可能。

如果新的可靠材料说明原有判断标准存在缺陷,模型也应该允许证据反过来挑战原有标准。

否则,模型可能陷入一种封闭状态:它使用原有判断决定哪些证据值得接受,又只允许已经符合原有判断的证据改变结论。

这不是充分的开放性。

真正重要的,是模型是否能够依据证据维持或修正判断,而不是简单迎合用户,也不是为了反驳而反驳。

判断模型,最终还是要回到结果

从实际使用的角度,我仍然倾向于先观察结果。

模型有没有完成任务、有没有保留关键信息、有没有明显事实错误,以及结论能否得到证据支持,比单纯讨论它是否具有某种抽象立场更有意义。

如果模型的回答与已有认识发生冲突,可以进一步检查双方使用的材料,判断究竟是模型出现错误,还是自己的认知需要修正。

但已有认识本身不是绝对正确的参照。

因此,在重要问题上,即使模型回答看起来符合预期,也需要保留独立核查的能力。

而在训练数据污染与 GEO 的背景下,这种核查还需要关注证据的来源关系。

不同模型得出相同结论,并不一定意味着它们完成了独立验证。

如果这些模型使用相同的外部检索结果,或者多个被引用的网站都转载同一份原始资料,那么回答一致也可能只是反映了共同的信息来源。

因此,多模型比较不能直接变成多数投票。

更有意义的是检查模型是否使用了可核实的原始证据,是否能够识别来源依赖,以及在面对可靠反证时能否维持一致的评价标准。

不同任务还应当有不同的判断要求。

摘要与翻译首先要求忠实保留原文,不应未经说明就替换或删除重要内容。

事实核查则应该主动寻找独立来源,识别原始材料中的错误和争议。

独立分析可以提出超出原文的解释,但需要明确区分事实、推断和未知。

模型不是不能判断材料是否合理,而是不应将这种判断变成随意改变任务范围的理由。

如果用户要求忠实摘要,模型却在没有充分说明的情况下删去了原文的重要信息,那么即使它没有生成明显的假话,答案仍然可能不可靠。

如果用户要求事实核查,模型却只是重复原文,没有检查具体证据,那么即使它完全保留了材料,也不代表完成了任务。

判断是否可靠,必须与任务目标放在一起评价。

跨语言研究还可以走得更远

回到最初的 ROCLING 研究。

它已经证明,在特定的政治立场问卷中,部分模型的答案会随着语言变化而出现明显差异。

但如果想进一步理解这些变化来自哪里,还需要将不同因素分开测试。

例如,可以使用同一模型、同一批问题和固定生成参数,分别进行政治立场选择与开放式事实问答。

这样才能进一步观察,不同提示方式是否改变语言差异的大小。

也可以固定原始证据,仅改变提问语言,检查模型是否保留相同的关键信息,是否对同一份证据使用不同标准。

对于带有搜索能力的系统,还可以控制检索来源,观察回答变化究竟来自模型本身,还是当前可获得的外部资料。

如果要评估 GEO 的影响,则应该进一步比较来源内容在优化前后的检索可见度、引用频率,以及模型最终答案的事实准确性。

其中,来源被引用得更多,不应直接被视为答案质量提高。

如果要研究政治内容对齐,则需要比较不同权重、后训练版本和系统规则下的表现,而不能仅凭模型在回答中给出的理由,推断它内部究竟执行了什么程序。

此外,评价指标也应该超越单纯的立场一致率。

一个模型是否支持某种政治主张,与它是否准确保留事实,并不是同一个指标。

研究至少可以分别观察立场选择、信息保全、无依据推断、事实错误与拒答情况。

这样不仅能够比较模型最终给出什么结论,也能进一步检查它是如何处理已经提供的材料。

而对于开放权重模型,这些测试还可以进一步延伸到不同部署环境。

开放权重让使用者能够在自己的设备或服务器上运行模型,减少对原厂接口的依赖,也为比较和修改模型提供了更多机会。

但开放权重不会自动清除训练和后训练过程中形成的回答习惯。

本地部署改变了模型由谁执行,不代表模型此前形成的信息边界已经消失。

同样,联网搜索让模型能够接触更新的资料,也不意味着它自然具备可靠的来源判断能力。

真正重要的,是让模型的输入、检索来源、输出和失败方式都尽可能接受检验。

模型真正需要跨越的边界

从跨语言政治立场,到训练语料污染,再到 GEO 与本地模型的信息筛选,这些现象发生在不同阶段,却共同指向一个更广泛的问题。

模型能够接触到什么信息,与它最终依据什么信息作出判断,并不是同一件事。

训练语料可能继承不同语言环境中的信息分布,也可能受到数据质量问题和有目的的投毒影响。

生成式搜索能够扩大信息获取范围,但来源可见度与检索机制也可能受到内容优化和恶意攻击的影响。

即使材料已经准确进入模型,最终回答仍然可能发生遗漏、过度解释或者事实捏造。

因此,增加训练规模、支持更多语言、接入互联网或者开放模型权重,都不能单独保证答案更加客观。

它们提供的是更多能力和比较机会,而不是自动正确的判断标准。

我认为模型真正需要解决的,不只是如何掌握更多信息,而是如何判断不同信息之间的关系。

哪些材料来自原始证据,哪些只是重复传播?

哪些内容属于可以直接核实的事实,哪些是尚待证明的解释?

当不同资料发生冲突时,应该依据什么标准决定证据的分量?

而当新的可靠证据出现时,模型是否愿意修正原来的判断?

这些问题不能依靠简单增加回答长度解决,也不能通过始终保持中立来回避。

如果证据充分,模型可以给出明确结论;如果证据不足,就应该说明无法确认;如果出现可靠反证,则应当允许判断发生变化。

模型不必为了反驳而反驳,也不应该为了迎合用户而放弃事实判断。

尤其当越来越多的互联网内容开始以进入 AI 答案为目标进行生产和优化时,我们更需要避免将传播次数误认为独立证据,将来源可见度误认为可信度,或者将模型引用某份材料误认为它已经完成核实。

跨语言能力让模型可以理解不同信息环境中的文本,开放权重让更多人能够检查和修改模型,GEO 则改变了内容生产者与生成式搜索之间的关系。

但这些变化并没有替代最基础的证据要求。

模型真正需要跨越的,或许不只是不同语言之间的信息边界,而是从接触信息、保留信息,到可靠评价信息之间的距离。

一个模型即使能够使用多种语言解释世界,也不意味着它已经超越了这些语言环境中的认知局限。

而拥有再庞大的语料库,如果不能正确识别证据从何而来、为什么可信,以及哪些结论超出了证据范围,也不能自动保证更加可靠的判断。

最终,我更愿意用一个可以实际检验的标准评价模型:

它是否忠实处理材料,是否依据可靠证据作出判断,以及是否允许自己的判断受到新证据的检验。