首页 游戏 软件 资讯 排行榜 专题
首页
AI
达特茅斯AI新突破:拟人类问卷工具可破解99.8%检测机制

达特茅斯AI新突破:拟人类问卷工具可破解99.8%检测机制

热心网友
46
转载
2025-11-25

11月24日消息,据404 Media报道,达特茅斯学院政府学副教授、极化研究实验室负责人肖恩·韦斯特伍德日前在《美国国家科学院院刊》上发表最新研究指出,作为众多科学研究中数据收集的基础方式,在线调查正面临大语言模型所带来的严重威胁。

免费影视、动漫、音乐、游戏、小说资源长期稳定更新! 👉 点此立即查看 👈

韦斯特伍德开发了一款名为“自主合成应答者”的AI工具,能够自动完成问卷调查题目,甚至可以轻松绕过当前最先进的机器人检测系统。

达特茅斯学院开发新型 AI 工具:可伪装人类完成问卷,还能破解 99.8% 检测

论文数据显示,这款智能体成功逃避检测的概率高达99.8%。韦斯特伍德在受访时坦言:“我们再也无法确信调查问卷的答复来自真实人类。这些被机器人污染的数据,可能会破坏整个知识体系的可信度。”

该AI系统还巧妙规避了“反向禁忌”这一检测机制。所谓“反向禁忌”,是指通过设计特定任务来识别非人类行为者,通常大模型能轻松完成这些反人类设计的测试题目,而真实人类反而难以作答。

研究论文《大语言模型对在线调查研究的潜在生存威胁》深入分析道:一旦推理引擎选定答案,系统就会专注于模仿人类行为特征。为规避自动化检测,它会模拟与设定教育水平相符的阅读速度,生成符合人类特征的鼠标移动轨迹,逐字输入开放式问题的答案,并合理保留打字过程中的拼写错误与修正痕迹。该系统还专门设计了应对reCAPTCHA等反机器人措施的工具——这些防护机制原本是自动化系统的主要障碍。

论文进一步指出,AI可以精准模拟“完整的人口统计特征”,这意味着理论上任何人都能通过生成特定人口特征的AI干预,来操控在线调查结果。令人担忧的是,仅需少量虚假回答就足以影响整体调查数据的准确性。

研究显示,在2024年大选前的七项主要民调中,仅需混入10至52个AI生成的虚假回答,就能改变预测结果。这些虚假回答的生成成本极低,每个仅需0.05美元,而传统受访者通常能获得1.50美元报酬(约合10.7元人民币)。

该研究采用OpenAI的o4-mini进行测试,同时验证了DeepSeek R1、Mistral Large、Claude 3.7 Sonnet、Grok3、Gemini 2.5 Preview等其他主流模型,证明该方法具有广泛适用性。该智能体通过接收约500字的提示说明,即可理解需要模拟的人物特征,并以人类方式完成问卷作答。

论文建议研究人员通过多种方式应对AI智能体污染调查数据的威胁,但每种方案都需要权衡利弊。例如,虽然可以对调查参与者进行更严格的身份验证,但这又会引发隐私担忧。研究团队建议,研究人员应当更透明地说明数据收集方式,并考虑采用更受控的参与者招募方法,比如基于地址的抽样或选民名册。

研究最后强调,要确保民意调查与社会科学研究持续有效,亟需探索创新性的研究设计方案,以应对AI技术飞速发展带来的挑战。

来源:https://www.ithome.com/0/899/691.htm
免责声明: 游乐网为非赢利性网站,所展示的游戏/软件/文章内容均来自于互联网或第三方用户上传分享,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系youleyoucom@outlook.com。

相关攻略

褪去虚火,脑机接口方能释放长远价值
科技数码
褪去虚火,脑机接口方能释放长远价值

来源:科技日报2026年开年,马斯克宣称脑机接口产品将于年内启动量产,引爆全球市场情绪。国内资本随即扎堆追捧,脑机接口相关概念股大幅走高,行业短期炒作虚火蔓延。进入3月,脑机接口迎来多重利好:脑机接

热心网友
04.07
微软发布三款自研大模型:一边安抚OpenAI,一边打出“骨折价”!
业界动态
微软发布三款自研大模型:一边安抚OpenAI,一边打出“骨折价”!

4月3日消息,美国时间周四,微软旗下研究部门Microsoft AI宣布推出三款基础人工智能模型,全面覆盖文本、语音及图像生成领域。此举表明,微软在维持与OpenAI深度合作的同时,正持续构建自主的

热心网友
04.07
博通+谷歌打出TPU组合拳:3.5GW算力喂饱Anthropic
科技数码
博通+谷歌打出TPU组合拳:3.5GW算力喂饱Anthropic

快科技4月7日消息,据博通当地时间(4月6日)向美国证券交易委员会(SEC)提交的监管文件披露,该公司已与谷歌达成一项长期协议,将为谷歌生产未来版本的定制人工智能芯片。根据协议内容,博通将为谷歌未来

热心网友
04.07
科技史上最贵的饭局:扎克伯格痛失DeepMind始末
AI
科技史上最贵的饭局:扎克伯格痛失DeepMind始末

编辑|杨文又到了八卦时间。最近,著名记者、作家塞巴斯蒂安・马拉比出了本新书,名叫《无限机器:德米斯・哈萨比斯、DeepMind 与超级智能的探索》。书中,他披露了一段扎克伯格与 DeepMind 失

热心网友
04.07
英特尔与亚马逊和谷歌洽谈AI芯片封装
AI
英特尔与亚马逊和谷歌洽谈AI芯片封装

媒体援引多位消息人士报道,英特尔正就其先进封装服务与至少两家大型客户展开持续磋商,其中包括亚马逊和谷歌。人工智能推动了对先进芯片封装的需求,英特尔代工业务负责人纳加·钱德拉塞卡兰表示,封装可能会在

热心网友
04.07

最新APP

宝宝过生日
宝宝过生日
应用辅助 04-07
台球世界
台球世界
体育竞技 04-07
解绳子
解绳子
休闲益智 04-07
骑兵冲突
骑兵冲突
棋牌策略 04-07
三国真龙传
三国真龙传
角色扮演 04-07

热门推荐

美国SEC主席Paul Atkins证实:加密货币安全港提案已送交白宫审查
web3.0
美国SEC主席Paul Atkins证实:加密货币安全港提案已送交白宫审查

加密货币行业翘首以盼的监管里程碑,终于有了实质性进展。美国证券交易委员会(SEC)主席保罗·阿特金斯(Paul Atkins)近日证实,那份允许加密项目在早期获得注册豁免权的“安全港”框架提案,已经正式送抵白宫,进入了最终审查阶段。 在范德堡大学与区块链协会联合举办的数字资产峰会上,阿特金斯透露了这

热心网友
04.08
微策略Strategy报告:第一季录得144.6亿美元浮亏 再斥资约3.3亿美元买进4871枚比特币
web3.0
微策略Strategy报告:第一季录得144.6亿美元浮亏 再斥资约3.3亿美元买进4871枚比特币

微策略Strategy报告:第一季录得144 6亿美元浮亏 再斥资约3 3亿美元买进4871枚比特币 市场震荡的威力有多大?看看Strategy的最新季报就明白了。根据其最新向美国证管会(SEC)提交的8-K报告,受市场剧烈波动影响,这家公司所持的比特币在第一季度录得了一笔惊人的数字——144 6亿

热心网友
04.08
稳定币发行商Tether再扩Web3版图!Paolo Ardoino:正开发去中心化搜索引擎Hypersearch
web3.0
稳定币发行商Tether再扩Web3版图!Paolo Ardoino:正开发去中心化搜索引擎Hypersearch

稳定币巨头Tether的动向,向来是加密世界的风向标。这不,它向Web3基础设施的版图扩张,又迈出了关键一步。公司执行长Paolo Ardoino在社交平台X上透露,其工程团队正在全力“烹制”一个新项目——去中心化搜索引擎 “Hypersearch”。这个消息一出,立刻引发了行业的广泛猜想。 采用D

热心网友
04.08
Base链首个原生DeFi借贷协议Seamless Protocol倒闭 将于2026年6月30日下线
web3.0
Base链首个原生DeFi借贷协议Seamless Protocol倒闭 将于2026年6月30日下线

基地位于Coinbase旗下以太坊Layer2网络Base的Seamless Protocol,日前正式宣告了服务的终结。这个曾经吸引了超过20万用户的原生DeFi借贷协议,在运营不到三年后,终究没能跑赢时间。它主打的核心产品是Integrated Leverage Markets(ILMs)——一

热心网友
04.08
PAAL代币如何参与治理?社区投票能决定哪些事项?
web3.0
PAAL代币如何参与治理?社区投票能决定哪些事项?

PAAL代币揭秘:深度解析Web3社区治理的核心钥匙 在去中心化自治组织的浪潮中,谁真正掌握了项目的话语权?PAAL代币提供了一套系统化的答案。它不仅是生态内流转的价值媒介,更是开启链上治理大门的核心凭证。通过持有并质押PAAL代币,用户能够对协议升级、资金分配乃至战略方向等关键事务投出决定性的一票

热心网友
04.08