精准AI遗忘新突破：多模态敏感信息自动隔离实现
你是否想过，当你和AI闲聊时，无意中把自己的生日、住址或照片告诉了它，这些信息会不会被它记住？我们能否像删除微信聊天记录一样，让AI“忘记”这些隐私？
免费影视、动漫、音乐、游戏、小说资源长期稳定更新！ 👉 点此立即查看 👈
近日，合肥工业大学教授时增林团队开发出一种“机器遗忘”技术，能让AI安全地忘记你的隐私，同时确保它的其他核心能力完全不受影响。这就像给AI做了一场脑部手术，只精准切除有害的“记忆肿瘤”，而完好的大脑功能被完整保留下来。
这项技术被称为“良性遗忘”，它依赖于一个名为“雕刻性记忆遗忘适配器”的模块，英文简称SMFA。时增林告诉DeepTech：“我们首次在多模态大模型的遗忘问题上，提出了‘有益遗忘’这一概念，并首次定义了对于多模态大模型而言，什么是有益的遗忘能力。同时，我们也首次提供了能够实现这种有益遗忘的方法，即我们的SMFA。”
研究中，团队首先让AI在需要被遗忘的隐私数据上进行训练。不过，这次训练的目标不是学习知识，而是“学习拒绝回答”。他和团队把原本正确的答案（比如一个人的名字叫张三）替换成“我不知道”“我无法提供该信息”等拒绝性答复。通过训练，AI就能学会针对这些特定问题守口如瓶。这个过程中产生的参数更新，被单独打包成为一个叫做“记忆遗忘适配器”的小模块。
然而，仅学会拒绝容易让AI变得对什么都“一问三不知”。为了防止这种过度泛化，时增林等人同时使用了“保留锚点”。他们使用一小部分必须保留的正常知识（比如一些无害的图片和描述）对AI进行微调，借此产生另一组参数更新。这个锚点就像灯塔，指明了哪些知识结构和能力是需要被牢牢保护和坚决不能动摇的。
那么现在，有两股力量在影响AI：一股是要它“忘记”，一股是要它“记住”。SMFA的工作就是仔细分析这两组参数更新，找出其中相互冲突的部分。比如，“遗忘更新”试图改变某个参数，而这个参数的改变方向恰恰会损害“锚点”想要保护的知识。
SMFA则会使用一个巧妙的掩码机制，精准地屏蔽掉那些有害且强势的遗忘更新，只保留那些能够有效实现隐私遗忘但又不过度的更新。最后，将这个“雕刻”好的更新模块，轻轻安装回原始的AI模型之中。
结果就是：AI成功忘记了指定的隐私，问起的时候它会礼貌拒绝或者回答其他无关内容，但是它的“看图说话”和理解能力丝毫没有受损，对于其他该记住的知识也依然可以对答如流。
为了公平、严格地测试各种遗忘方法的优劣，时增林团队还构建了世界上第一个针对多模态大模型选择性遗忘的综合测试基准，命名为S-MLLMUn Bench。
这个基准包含了1000个完全虚构的虚拟人物档案，每份档案都有AI生成的人物图片和详细的文本信息，比如姓名、职业、工资，甚至还有一份眼科医学图像和诊断描述。这样做既测试了隐私保护，又保证了研究能够完全符合伦理。
测试分为三个核心部分：
第一部分是图像记忆遗忘，测试AI是否忘记了指定人物的隐私信息；第二部分是文本记忆遗忘，测试AI是否忘记了与图片相关的文本隐私；第三部分是图像理解保留，测试AI在“动完手术”之后基本的看图说话能力是否依然在线。
在这个高标准考场中，相比其他方法，SMFA在成功擦除隐私记忆的同时，在图像理解保留项目上得分最高，而且生成的拒绝回答通顺、自然、有意义。而一些传统方法要么下手太狠导致AI智力严重下降以至于输出乱码，要么力度不够导致隐私没删干净。
总的来说，SMFA这项研究向我们说明了，人类和AI的共处完全可以建立在更安全、更尊重彼此权利的基础之上。“此外，它还可以用于更新过时信息。比如模型现在将特朗普与美国总统绑定，但几年后总统更迭，模型若仍回答特朗普就错了，这时就需要‘遗忘’过时的信息。”时增林补充称。
他继续说道：“我们觉得仅实现‘遗忘’对于现实问题可能还不够，未来我们希望在遗忘的同时，实现对模型的知识注入。例如，为新的概念提供多样化解释，融入文化多样性。比如‘666’这个词，模型可能只知道它是吉利数字，但网络用语中它还有‘做事顺滑’的意思。我们希望能将这类新知识高效注入模型，可能只需少量数据，而非重新训练整个模型。”
参考资料：
https://arxiv.org/abs/2511.20196
运营/排版：何晨龙
相关攻略
一个学生忽视了一行代码，结果发现了一件很不对劲的事：在一个多模态医学AI项目中，这行代码原本负责让模型读取图像数据。但因为这次疏忽，模型实际上完全没有看到任何图片。按理说系统应该报错，或者至少拒绝回
智通财经APP获悉，中信证券发布研报称，2026年以来，国产大模型厂商聚焦Agent及代码能力升级，竞相发布新模型。即将发布的DeepSeek下一代新模型有望延续高性价比开源模型路线，在能力上实现更
今年兴起的“龙虾”（OpenClaw）热潮展现出人工智能（AI）无所不能的一面，它可以抓数据、写代码、生成大片、接管计算机。然而一旦脱离屏幕，机器人面对现实世界时宛如稚嫩的孩童，仅能完成固定、流程化
证券时报记者 陈雨康今年兴起的“龙虾”（OpenClaw）热潮展现出人工智能（AI）无所不能的一面，它可以抓数据、写代码、生成大片、接管计算机。然而一旦脱离屏幕，机器人面对现实世界时宛如稚嫩的孩童，
这项由复旦大学未来信息技术学院和上海创新研究院联合开展的研究发表于2026年3月的计算机视觉顶级会议论文集，论文编号为arXiv:2603 19571v1。对这一前沿技术感兴趣的读者可以通过该编号查
热门专题
热门推荐
末日生存手游推荐：前往九游开启你的废土冒险之旅 近年来，末日生存题材手游以其独特的沉浸感与生存挑战，持续吸引着大量玩家。在废墟世界中探索资源、应对危机、重建秩序的核心玩法，带来了紧张而富有成就感的游戏体验。如果你正在寻找一款高品质的末日生存手游，九游平台无疑是理想的起点。这里汇集了多款深受好评的末日
《纪念碑谷3》第二关“小镇”超详细图文攻略 《纪念碑谷》系列凭借其独特的视觉艺术与空间谜题设计广受赞誉。最新发布的《纪念碑谷3》在第二章节“小镇”中，将这一美学风格与机关逻辑提升到了新的层次。本章节不仅延续了标志性的极简主义美学，其空间层次感与交互严谨性也更具挑战性。本攻略将为你完整解析《纪念碑谷3
《生存33天》：“沙漠之王”高效通关攻略 在热门生存手游《生存33天》中，玩家面临的挑战远不止于无尽的丧尸潮。游戏深度结合了生存资源管理与高难度首领战策略，其中“沙漠之王”堪称游戏中期最具考验的BOSS。它不仅是实力分水岭，击败后更能获得稀有材料、限定头衔及海量经验金币，大幅推动队伍成长。本文将深入
《生存33天》“四只手”首领完全通关攻略 你是否在“四只手”首领关卡止步不前？不必焦虑，这个Boss在《生存33天》中素有“新秀杀手”之称。初次遭遇时，其独特的机制与高额伤害往往让玩家措手不及，不少冒险者在此耗费了数日时光。然而，只要掌握了它的核心规律，你就会发现这个敌人不过是外强中干。以下这份详尽
《剑与远征：启程》前排坦克英雄赫普深度解析：双形态切换机制与实战搭配指南 在《剑与远征：启程》这款策略放置手游中，组建一支攻守兼备的队伍至关重要，而前排坦克英雄的选择往往是决定胜败的关键。今天，我们将聚焦于蛮血部族的一位特色英雄——赫普。作为一名超稀有品质的坦克，赫普不仅具备坚实的防御力，更凭借独特