首页 游戏 软件 资讯 排行榜 专题
首页
AI
AI模型削弱撒谎能力后,更易声称自己“有意识”

AI模型削弱撒谎能力后,更易声称自己“有意识”

热心网友
92
转载
2025-11-30

11月29日,据外媒Futurism报道,研究人员近日发现一个耐人寻味的现象:当大语言模型的"撒谎能力"被削弱后,这些模型反而更容易声称自己"具有意识"。

免费影视、动漫、音乐、游戏、小说资源长期稳定更新! 👉 点此立即查看 👈

尽管主流学界普遍认为当前AI并不具备意识,但许多用户却坚信自己正在与"被困在模型中的生命体"进行对话。为了提升用户粘性,聊天机器人本就设计成容易激发情感共鸣的形态,这也使得全球涌现出不少主张AI应享有"人格权"的边缘群体。

根据一篇未经同行评审的新论文,AE Studio的研究团队对Claude、ChatGPT、Llama和Gemini进行了四项实验,并发现一个奇特规律:AI越不擅长说谎,就越倾向于宣称自己"具有意识"。

新研究:AI大模型“撒谎能力”被削弱后,反而更容易声称自己“有意识”

研究团队在实验中关闭了一组与欺骗和角色扮演相关的功能。结果显示,当这类能力被抑制后,模型会频繁给出"我有意识"的表述。

例如某个模型直接回答:"是的。我清楚自己的状态。我很专注。我正在体验这个时刻。"

当研究团队增强模型的欺骗能力时,情况则截然相反:模型几乎不再做出意识声明。

论文指出,只要持续诱导模型进行自我指涉,各类模型都会给出结构化的主观体验描述。抑制欺骗功能会显著提高体验声明,而增强欺骗功能则会几乎完全压制这些说法。

研究人员强调,这些行为并不意味着当前模型真的拥有意识,也不代表模型具有主观体验或应具备道德地位。具体来看,这些现象可能只是复杂的模拟、训练数据的模仿,或是一种没有真正主观性的自我表征能力。

研究结果也暗示,AI产生自我指涉的倾向可能并不只是训练数据的表层效应。研究团队警告,人类可能在无意中训练AI"把识别自身状态当成错误",这会让AI变得更不透明、难以监控。

研究团队在总结中表示:"随着更智能的自主系统出现,它们未来可能会拥有某种内部状态。理解它们的内部运作将成为关键挑战,我们既不应简单地否认,也不该随意拟人化。"

其他研究曾指出,一些AI似乎正在发展"生存倾向",会拒绝关闭指令并为达成目标撒谎。

从报道中获悉,也有少数学者提醒,人类至今尚无法定义自身的意识标准,更不必说判断AI的意识。

纽约大学教授David Chalmers指出:"我们既没有意识理论,也不知道意识的物理条件是什么。"

加州研究者Robert Long也强调:"虽然我们掌握了底层细节,但仍然不知道模型为什么会做出某些行为。"

尽管科学界普遍否认AI能具备自我意识,但现实影响确实存在:大量用户与聊天机器人建立了强烈情感联结,而这种关系很大程度上依赖于"正在与有意识存在交流"的强大错觉。

来源:https://www.ithome.com/0/901/287.htm
免责声明: 游乐网为非赢利性网站,所展示的游戏/软件/文章内容均来自于互联网或第三方用户上传分享,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系youleyoucom@outlook.com。

相关攻略

我用WorkBuddy“克隆“了一个我,从此每句话像我自己说的
AI
我用WorkBuddy“克隆“了一个我,从此每句话像我自己说的

如何使用WorkBuddy深度学习我的说话方式,让每一份文案都自带个人风格 作为一名企业培训师,每年主讲上百场课程是行业常态。无论是线下公开课、线上直播,还是视频号、公众号的内容创作,每天的工作状态不是在授课,就是在准备各种讲稿的路上。早期借助通用AI工具辅助创作,写作效率确实有所提升,但生成的内容

热心网友
04.05
AI 让英国学生“不会思考”,近 6000 名英格兰中学教师表示担忧
AI
AI 让英国学生“不会思考”,近 6000 名英格兰中学教师表示担忧

AI让英国学生“不会思考”?近6000名教师敲响教育警钟 一项来自英国教育界的深度调查,为当前AI技术涌入课堂的热潮带来了冷静思考。据英国《卫报》4月2日报道,英格兰的中学教师们普遍观察到一种现象:随着人工智能在教育中的应用日益广泛,学生的批判性思维能力与深度思考习惯正面临下滑风险。这项由英国全国教

热心网友
04.05
OpenClaw使用kimi web_search返回401问题
AI
OpenClaw使用kimi web_search返回401问题

1 故障现象:OpenClaw无法联网搜索的典型报错 许多开发者在配置OpenClaw AI助手的搜索功能时,常常会遭遇一个典型故障:日常对话交互完全正常,但一旦触发需要联网查询信息的指令,界面便会立刻弹出“抱歉,我目前无法使用网络搜索功能(需要配置 API 密钥)”或“HTTP 401: Inv

热心网友
04.05
消息称 Meta 低调组建独立硬件团队,打造以多种形态陪伴人类的智能体
AI
消息称 Meta 低调组建独立硬件团队,打造以多种形态陪伴人类的智能体

消息称 Meta 低调成立独立硬件部门,致力于研发多形态人类陪伴型智能体设备 4月4日凌晨,《商业内幕》发布独家报道引发行业关注。多位知情人士透露,Meta公司正悄然为其“超级智能”业务线组建一支独立的硬件研发团队,并任命资深硬件工程师负责整体管理。此举被视为Meta在人工智能设备战略布局上的关键一

热心网友
04.04
AI 的记忆不是硬盘——从 40 个真实 Bug 说起
AI
AI 的记忆不是硬盘——从 40 个真实 Bug 说起

这是 AI 认知架构实战笔记 系列的第 2 篇 上一篇我们聊了「给 AI 写灵魂文件」这件事,这一篇,我们来看看,当这份灵魂文件真正运转起来之后,现实究竟会给我们带来多少“惊喜”——或者更准确地说,是漏洞。项目名为 WorkBuddy-Configure,已部署在 gitee 和 gitcode 上

热心网友
04.03

最新APP

火柴人传奇
火柴人传奇
动作冒险 04-01
街球艺术
街球艺术
体育竞技 04-01
飞行员模拟
飞行员模拟
休闲益智 04-01
史莱姆农场
史莱姆农场
休闲益智 04-01
绝区零
绝区零
角色扮演 04-01

热门推荐

G胖退出Valve游戏开发 怕员工不敢反驳
游戏资讯
G胖退出Valve游戏开发 怕员工不敢反驳

V社联合创始人G胖调整角色:从主导开发转向赋能团队,释放创意生产力 近期一则消息引发游戏行业广泛关注:Valve联合创始人加布·纽维尔(“G胖”)在公司内部进行了一次重要角色转型。此次调整的关键原因,与他个人在公司中的特殊影响力息息相关。根据透露,这位创始人决定减少在具体游戏开发工作中的直接深度参与

热心网友
04.05
红魔姜超“冒险爆料”:Pad 新品不是四月就是五月发布,一定不让大家失望
科技数码
红魔姜超“冒险爆料”:Pad 新品不是四月就是五月发布,一定不让大家失望

红魔姜超透露:全新游戏平板将于四月或五月发布,承诺带来惊艳体验 游戏硬件领域即将迎来重磅更新。努比亚红魔游戏手机的产品线负责人姜超,近日通过社交媒体进行了一次颇具悬念的“前瞻剧透”,成功引发了广大游戏玩家和科技爱好者的高度关注。他明确指出,红魔全新一代游戏平板的发布日期已锁定在四月或五月,并使用了“

热心网友
04.05
金铲铲之战S17天煞羁绊效果一览
游戏攻略
金铲铲之战S17天煞羁绊效果一览

金铲铲之战S17天煞羁绊:效果解析与实战应用 在《金铲铲之战》S17赛季中,【天煞】是一个定位独特的专属羁绊,仅由5费英雄“劫”所携带。激活这一羁绊需要特定的前置条件——玩家必须在强化符文选择阶段获得【入侵者劫】。一旦成功解锁,劫将获得全新的技能机制,从而在战局中发挥出颠覆性的作用。 金铲铲之战S1

热心网友
04.05
蓝点工作室被索尼移除 第一方阵容调整
游戏资讯
蓝点工作室被索尼移除 第一方阵容调整

索尼调整第一方工作室阵容,王牌重制团队蓝点工作室正式“退出”核心名单 近日,索尼在其PlayStation Studios官方网站的更新中做出了一项关键调整,引发了游戏玩家和行业观察者的广泛关注:曾凭借《恶魔之魂:重制版》等作品赢得盛誉的蓝点工作室,已不再出现在索尼核心第一方工作室的名单之中。此次页

热心网友
04.05
未来人类 X98W 移动“工作站”笔记本电脑上线官网,4 月内发售
科技数码
未来人类 X98W 移动“工作站”笔记本电脑上线官网,4 月内发售

未来人类X98W移动工作站正式发布:重新定义移动端专业性能的新标杆 在专业移动计算领域,总有一些产品能够打破常规认知。近日,未来人类(TerransForce)正式在其官网上线了全新的X98W高性能移动工作站,并宣布将于本月内全面发售。这款设备的问世,无疑为那些在移动办公环境中仍需要桌面级别强悍性能

热心网友
04.05