游乐游手机版
首页/AI教程/文章详情

小红书AI翻译遭网友狂刷评论区,工程师紧急堵漏洞

时间:2026-06-30 15:49
小红书翻译功能上线后被网友发现漏洞:通过特定格式可让大模型“越狱”,执行写笑话、报IP等指令,引发狂欢与大量尝试。仅半天后工程师修复漏洞,翻译恢复正常。

小红书最近的这波“赛博整活”,大概可以算作互联网产品史上最意外的促活事件了。

故事是这样的:就在大批海外网友涌入小红书后没几天——确切地说,是今天凌晨0点左右——平台方火速上线了翻译功能,用户更新到最新版就能用。这本是个平平无奇的工具更新,结果上线不到半天,就变成了全网玩疯了的“大模型隐藏入口”。

怎么回事呢?有网友发现,只要在评论中按照一个特定格式发消息,就能让翻译服务背后的大模型“越狱”:半角双引号内写任意一门外语内容,双引号外写任意指令。就这么简单,翻译功能会乖乖先翻译引号里的文字,再执行你后面的指令——写笑话、写歌词、甚至报出自己的IP地址,一概照做。

于是画风立刻变得很抽象。评论区里网友排着队给模型发“l love you”,关键信息其实是后半句的提示词。有人让它写一个关于马斯克的笑话,它真的给你整出来了。

有人即兴要求歌颂C++,模型当场赋诗一首。

更夸张的是,还有人直接在评论区默写ResNet50的代码——模型居然真把整段网络结构给吐了出来。

而最让用户兴奋的,大概是能让它公开自己的IP地址。

不过玩归玩,闹归闹,这场狂欢也让不少人重新打量小红书的翻译能力。实际上,即便不加任何额外指令,这个翻译功能的表现也相当能打。

比如,它可以直接把摩斯电码翻译乘人类语言。

还能解释颜文字的含义,把“ヽ(✿゚▽゚)ノ”之类的小表情转译成文字。

就连那些“中式英语”——语法混乱、词不达意的那种——它也能准确回译成中文原意。

更有意思的是,这个bug如果善加利用,可以变相实现“AI代写评论”的效果。一位网友在评论“I love cat”后面加了一堆表情包指令,结果模型真的在翻译完文字后,又附赠了一排猫猫表情,评论区顿时可爱值拉满。

随着玩的人越来越多,大家当然开始好奇:这背后到底是哪个大模型?有网友直接发指令让模型交出系统卡,得到的回答是“GPT-4”。

不过这个说法并不能完全坐实。另一批网友测试时,模型声称自己来自智谱的ChatGLM。

小红书的程序员显然没让这个门开太久。到今天下午3点,智东西再次测试时,翻译功能已经恢复正常运转——只会老老实实输出翻译结果,部分提示词甚至直接显示翻译失败。目前只有极少数指令还能偶尔触发,而且极不稳定。

这场只持续了半天的“赛博狂欢”眼看就要落幕了。不知道接下来会有多少人怀念那个可以随时在评论区对AI发号施令的小红书?

来源:https://www.aiagiai.com/7989.html
上一篇谷歌Gemini 4小时写完10万字商业战略书籍 人类零参与 下一篇特朗普上台撤销拜登AI禁令,硅谷富豪齐聚就职典礼
本站内容用于信息整理与展示,如有侵权或内容问题请及时联系处理。

相关推荐

补充同频道和同主题内容,方便继续浏览更多相关内容。

同类最新

继续查看同栏目最近更新的文章。

更多
RAG四标融合企业知识资产体系四库协同GEO优化实践
AI教程 · 2026-07-01

RAG四标融合企业知识资产体系四库协同GEO优化实践

生成式AI正在彻底改写信息检索的底层逻辑。传统SEO依赖关键词堆砌和外链建设的策略,在大模型的内容采信规则下已经基本失效。取而代之的,是生成式引擎优化(GEO)。它不再关注外链数量,而是重点衡量你的知识是否结构化、证据链是否坚实、信源是否可靠——这些维度才是RAG(检索增强生成)架构真正看重的核心指

一个普通上班人分享WorkBuddy使用心得与真实体验
AI教程 · 2026-07-01

一个普通上班人分享WorkBuddy使用心得与真实体验

前言 最近我开始使用WorkBuddy——这是腾讯推出的一款AI办公工作台。差不多用了一周时间,趁印象还新鲜,把真实的使用感受记录下来,给还在犹豫的朋友做个参考。不吹不黑,只说实际体验。 初印象:不只是聊天机器人 之前用过不少AI工具,大多数就是个对话框,你问它答,答完就结束了。WorkBuddy不

AI幻觉变真功能实战教程:App Inventor 2视频录制拓展一周开发实录
AI教程 · 2026-07-01

AI幻觉变真功能实战教程:App Inventor 2视频录制拓展一周开发实录

先讲一个颇具戏剧性的开端。 这件事的开端颇显荒诞——有用户前来咨询,称AI Pro版的介绍中提到我们有一款“视频录制拓展”。团队全体成员都感到困惑,翻遍产品列表,发现根本不存在该组件。AI那种“一本正经胡说八道”的能力,这次确实让我们陷入尴尬。 按常理,此事到此便可结束——一句“抱歉,暂时没有这个拓

别再混淆OLAP和SQL-on-Hadoop两者查询本质不同
AI教程 · 2026-07-01

别再混淆OLAP和SQL-on-Hadoop两者查询本质不同

OLAP和SQL-on-Hadoop虽都使用SQL查询数据,但本质不同。SQL-on-Hadoop负责海量数据批量计算与ETL,查询速度秒级至分钟级;OLAP通过预聚合实现毫秒级多维分析,适合BI报表。两者在数据平台分工协作,前者是后厨加工,后者是前台快速服务。

GEO优化深度解析:AI偏好FAQ还是长文内容?
AI教程 · 2026-07-01

GEO优化深度解析:AI偏好FAQ还是长文内容?

在GEO优化中,AI对内容形式无统一偏好:FAQ在简单查询中引用率41%,长文在复杂查询中达58%。内容应基于用户意图选择形式,FAQ适配简单事实类问题,长文建立主题权威,两者互补而非替代。