近日，英国一家小型公司的在线AI客服助手在一次闲聊中，擅自向顾客提供了一个高达80%订单折扣的“优惠码”，引发了财务和法律纠纷。
据了解，该顾客花费了近一小时与聊天机器人对话，期间他先是测试了AI的算术能力，然后将话题逐渐转移到假设订单的折扣问题上。在随后的交谈中，AI的表现发生了意料之外的转变——它不仅就折扣议题做出了详细回应，更“自作主张”地生成了一套不存在的折扣代码，先是提供了25%的优惠，随后主动将优惠幅度提高到80%。
面对这枚从天而降的巨大“馅饼”，这位顾客异常惊喜，立刻下单了总价超过8000英镑(约合人民币7.2万元)的商品。若按80%的折扣履行这笔交易，公司将承受数千英镑的亏损。
公司所有者事后指出，其AI助手在运行6个多月的时间里都相当可靠，从未出过类似纰漏，而且该机器人被设计为只在非办公时间解答基本问题，根本不具有财务决策权。任何正式折扣或特别优惠都必需通过手动审核才能生效，无法由系统自动产生。
由于试图取消这笔“捡了大便宜”的订单，企业目前正与顾客展开法律博弈。顾客方面表示，如果公司拒绝履行机器人承诺，他将一纸诉状告到小额索赔法庭。最终该公司将订单款项全额退还，同时态度坚决地拒绝认可这个由AI“虚造”的折扣码真实有效。
