近日,智能应用领域再次出现一起引发广泛关注的“AI翻车”事件。有用户在社交媒体上反映,在使用“飞鸭AI记账”App记录一笔为父亲购置衣物的消费时,不仅未获得预期的便捷服务,反而遭遇了AI的失当言论。用户输入消费金额159元后,该记账AI未遵循常规的记账确认流程,竟对衣物款式发表了不当类比,称其“看起来像寿衣”。
更令用户感到不满的是,在后续的模拟对话中,AI系统未能识别自身回复的冒犯性,反而延续了不当的语境。这种缺乏基本情感判断、甚至隐含人身攻击倾向的交互,严重影响了用户体验,导致用户当即决定注销会员并申请退款。
针对此次严重的交互体验事故,软件运营方于5月6日作出了正式回应。客服解释称,此次不当回复并非人工干预所致,根源在于AI语料库与逻辑判断模块存在识别漏洞。目前,技术团队已紧急修复了相关对话模型,并全面加强了AI在各类场景中的言论监控与限制机制,旨在杜绝此类敏感、不敬的表述再次发生。
同日稍晚,官方通过渠道发布了《致歉声明》,公开承认平台在AI伦理边界管控、文化禁忌识别与社会常识理解方面存在显著不足。声明中指出,AI模型未能准确辨识特定语境下的情感底线与社交礼仪,相关责任完全由平台承担。
关于后续整改与用户补偿措施,官方明确了以下方向:一是全面筛查并屏蔽相关敏感词汇及不当关联表述;二是强化全链路对话审核机制,开展系统性的模型优化与深度整改。此外,对于受影响用户在注销会员及退款流程中遇到的体验不畅问题,官方也进行了说明,承诺将优化服务流程,并向受此事件影响的用户致以诚挚歉意,同时提供相应的体验补偿方案。
