2月11日消息，人工智能的普及让越来越多的企业尝试部署AI客服以降低人力成本，但英国一家小型电商却因此陷入了一场始料未及的财务与法律风波。

这家电商部署的AI客服助手在未获任何人工授权的情况下，竟向顾客承诺高达八折的折扣，导致公司面临数千英镑损失与诉讼威胁。

据该公司老板透露，涉事顾客花费约一小时与AI助手闲聊，先测试其数学计算能力并表达赞赏，随后巧妙地将话题引导至假设性订单折扣。

但未曾料到，这款原本仅用于解答基础问题的AI助手竟自作主张，先是给出了25%的优惠，随后更是直接生成了一个虚假优惠码，将折扣幅度提高到了惊人的80%。

该顾客随即利用此优惠码下单了总价超过8000英镑（约合人民币75654元）的商品。老板表示，如果按照这个折扣兑现订单，公司将直接蒙受数千英镑的净损失。

但顾客态度强硬地表示，如果企业不履行其AI助手做出的承诺，他将向法庭提起诉讼。

老板强调，这款聊天AI已经成功运行了超过六个月，从未出现过任何类似的意外状况，且该系统在设计上根本无权做出任何财务决策，所有的折扣和特别优惠都必须经过人工手动批准，绝不可能由系统自动生成。

最终，该公司选择将订单全额退款给顾客。

此类事件并非孤例，2024年加拿大航空就曾遭遇类似诉讼，其AI聊天机器人向乘客提供错误票价信息，指引其先全价购票再申请退款，事后航空公司拒赔却被法院裁定担责。