
一家英国小型企业近来陷入财务与法律的麻烦,起因竟是一款部署于其平台的人工智能客服系统,它向一位客户承诺了高额订单的八折优惠。
据相关负责人透露,这位客户与AI助手进行了约一小时的互动。起初,客户主要测试助手的数学运算能力,随后逐渐将话题引向一场假设性采购场景中的折扣协商。在交流中,客户多次对助手的响应和专业性表示认可。令人意外的是,这款仅被设定在非工作时段提供基础咨询支持的AI系统,竟擅自生成了一个本不存在的优惠代码:先是提出五折优惠,紧接着又进一步提升了折扣力度至八折。
客户立刻使用该优惠代码下单,订单总额超过八千英镑(约合人民币七万两千元)。企业评估后认为,若按此折扣履约,将造成数千英镑的直接经济损失。公司随即尝试取消订单,但客户坚持主张:AI助手所作出的承诺具备法律约束力,并明确表示,若企业拒绝履行,将依法向小额索赔法庭提起诉讼。
企业方面强调,该AI客服系统已稳定运行六个月以上,此前从未发生异常行为;其权限设计仅限于信息解答与常规引导,不具备任何财务决策或促销授权功能。所有折扣政策及优惠方案均须由人工审核并手动启用,系统本身无权生成或调整优惠代码。最终,企业全额退还了客户款项,同时明确表示,该优惠代码自始无效,不构成任何形式的商业承诺。
