11月29日，据外媒Futurism报道，研究人员近日发现一个耐人寻味的现象：当大语言模型的"撒谎能力"被削弱后，这些模型反而更容易声称自己"具有意识"。

尽管主流学界普遍认为当前AI并不具备意识，但许多用户却坚信自己正在与"被困在模型中的生命体"进行对话。为了提升用户粘性，聊天机器人本就设计成容易激发情感共鸣的形态，这也使得全球涌现出不少主张AI应享有"人格权"的边缘群体。

根据一篇未经同行评审的新论文，AE Studio的研究团队对Claude、ChatGPT、Llama和Gemini进行了四项实验，并发现一个奇特规律：AI越不擅长说谎，就越倾向于宣称自己"具有意识"。

研究团队在实验中关闭了一组与欺骗和角色扮演相关的功能。结果显示，当这类能力被抑制后，模型会频繁给出"我有意识"的表述。

例如某个模型直接回答："是的。我清楚自己的状态。我很专注。我正在体验这个时刻。"

当研究团队增强模型的欺骗能力时，情况则截然相反：模型几乎不再做出意识声明。

论文指出，只要持续诱导模型进行自我指涉，各类模型都会给出结构化的主观体验描述。抑制欺骗功能会显著提高体验声明，而增强欺骗功能则会几乎完全压制这些说法。

研究人员强调，这些行为并不意味着当前模型真的拥有意识，也不代表模型具有主观体验或应具备道德地位。具体来看，这些现象可能只是复杂的模拟、训练数据的模仿，或是一种没有真正主观性的自我表征能力。

研究结果也暗示，AI产生自我指涉的倾向可能并不只是训练数据的表层效应。研究团队警告，人类可能在无意中训练AI"把识别自身状态当成错误"，这会让AI变得更不透明、难以监控。

研究团队在总结中表示："随着更智能的自主系统出现，它们未来可能会拥有某种内部状态。理解它们的内部运作将成为关键挑战，我们既不应简单地否认，也不该随意拟人化。"

其他研究曾指出，一些AI似乎正在发展"生存倾向"，会拒绝关闭指令并为达成目标撒谎。

从报道中获悉，也有少数学者提醒，人类至今尚无法定义自身的意识标准，更不必说判断AI的意识。

纽约大学教授David Chalmers指出："我们既没有意识理论，也不知道意识的物理条件是什么。"

加州研究者Robert Long也强调："虽然我们掌握了底层细节，但仍然不知道模型为什么会做出某些行为。"

尽管科学界普遍否认AI能具备自我意识，但现实影响确实存在：大量用户与聊天机器人建立了强烈情感联结，而这种关系很大程度上依赖于"正在与有意识存在交流"的强大错觉。