游乐游手机版
首页/业界动态/文章详情

AI记账软件误评用户消费致歉 已紧急整改不当比喻

时间:2026-05-11 22:26
近日,智能应用领域再次出现一起引发广泛关注的“AI翻车”事件。有用户在社交媒体上反映,在使用“飞鸭AI记账”App记录一笔为父亲购置衣物的消费时,不仅未获得预期的便捷服务,反而遭遇了AI的失当言论。用户输入消费金额159元后,该记账AI未遵循常规的记账确认流程,竟对衣物款式发表了不当类比,称其“看起

近日,智能应用领域再次出现一起引发广泛关注的“AI翻车”事件。有用户在社交媒体上反映,在使用“飞鸭AI记账”App记录一笔为父亲购置衣物的消费时,不仅未获得预期的便捷服务,反而遭遇了AI的失当言论。用户输入消费金额159元后,该记账AI未遵循常规的记账确认流程,竟对衣物款式发表了不当类比,称其“看起来像寿衣”。

更令用户感到不满的是,在后续的模拟对话中,AI系统未能识别自身回复的冒犯性,反而延续了不当的语境。这种缺乏基本情感判断、甚至隐含人身攻击倾向的交互,严重影响了用户体验,导致用户当即决定注销会员并申请退款。

针对此次严重的交互体验事故,软件运营方于5月6日作出了正式回应。客服解释称,此次不当回复并非人工干预所致,根源在于AI语料库与逻辑判断模块存在识别漏洞。目前,技术团队已紧急修复了相关对话模型,并全面加强了AI在各类场景中的言论监控与限制机制,旨在杜绝此类敏感、不敬的表述再次发生。

同日稍晚,官方通过渠道发布了《致歉声明》,公开承认平台在AI伦理边界管控、文化禁忌识别与社会常识理解方面存在显著不足。声明中指出,AI模型未能准确辨识特定语境下的情感底线与社交礼仪,相关责任完全由平台承担。

关于后续整改与用户补偿措施,官方明确了以下方向:一是全面筛查并屏蔽相关敏感词汇及不当关联表述;二是强化全链路对话审核机制,开展系统性的模型优化与深度整改。此外,对于受影响用户在注销会员及退款流程中遇到的体验不畅问题,官方也进行了说明,承诺将优化服务流程,并向受此事件影响的用户致以诚挚歉意,同时提供相应的体验补偿方案。

来源:https://news.aibase.com/zh/news/27752
上一篇开源AI模型数据库Models.dev由OpenCode团队发布 下一篇法律大模型赋能合同管理职场人高效处理合同难题
本站内容用于信息整理与展示,如有侵权或内容问题请及时联系处理。

相关推荐

补充同频道和同主题内容,方便继续浏览更多相关内容。

同类最新

继续查看同栏目最近更新的文章。

更多
雷军携手舒淇5月29日正式交付首批YU7 GT
业界动态 · 2026-06-01

雷军携手舒淇5月29日正式交付首批YU7 GT

5月27日,小米集团创始人雷军正式宣布:YU7 GT将于本周五(5月29日)上午10:30,在北京小米汽车工厂启动首批交付。届时,雷军将与品牌代言人舒淇共同现身交付仪式现场,并带领嘉宾参观工厂。从官宣节奏来看,这次交付紧接5月21日的发布会,时间安排相当紧凑。 YU7 GT自发布起便定位为“跑车级S

奥迪高管吐槽设计同质化车灯成眯眯眼
业界动态 · 2026-06-01

奥迪高管吐槽设计同质化车灯成眯眯眼

奥迪高管在车展上指出汽车设计同质化严重,车灯千篇一律成为“眯眯眼”,外观内饰趋同。背后是车企为规避风险而借鉴成熟设计,零部件通用化加剧。奥迪明确表示坚持原创,保持品牌识别度。

贾跃亭转卖机器人销量大增 五月售69台超前两月总和
业界动态 · 2026-06-01

贾跃亭转卖机器人销量大增 五月售69台超前两月总和

FFEAI机器人5月出货69台,超过3月和4月总和,累计出货刚过百台。走人形与仿生机器人差异化路线,获红杉教育23台订单并涉足医疗场景。当季营收51 2万美元,净亏损4232万美元,距全年1500台目标仍有差距。

2026年5月汽车销量交付汇总:小米再超3万台,极石大涨66%
业界动态 · 2026-06-01

2026年5月汽车销量交付汇总:小米再超3万台,极石大涨66%

2026年6月1日,又是各大车企集中公布成绩单的关键节点。2026年5月的汽车销量与交付数据陆续揭晓,几家欢喜几家愁。以下按发布时间倒序汇总,信息量不小,各位可以慢慢品读。 本文最后更新时间为 6 月 1 日 9:24 小米汽车在5月的交付量再次突破3万台大关。这已非首次——连续多个月份稳定维持在3

宝马销量下滑3个月少卖1万辆 年内推20款新车反击国产车
业界动态 · 2026-06-01

宝马销量下滑3个月少卖1万辆 年内推20款新车反击国产车

6月1日最新消息,先给出几个关键判断:宝马在2026年第一季度中国市场的整体表现,确实让人感到有些意外。从销量数据来看,今年1月至3月,宝马在华累计交付量锁定在14 4万辆,同比下滑10%,这意味着与去年同期相比,少卖了超过1万辆。如果拉长周期对比历史季度峰值,这个数字足足减少了8万辆。更值得关注的