AI买保险闹出大乌龙:账户里凭空多了一笔钱,却查不到保单
近期,人工智能买保险引发一起离奇事件,在技术圈内迅速成为热议话题。
一位网友发帖称,自己从未从事保险业务,却意外收到陌生人转账1618元,对方表示是通过AI买了保险。然而,转账方始终无法查到保单记录,焦急万分。收款人同样困惑不已:这笔钱究竟从何而来?
随着更多细节曝光,整起事件的真相逐渐明朗。
事件经过如下:投保人通过某AI助手咨询并下单了保险产品。AI基于其需求,不仅推送了投保链接,还生成了一个支付宝收款二维码,并明确指示:扫码支付即可完成投保流程。

当事人未加思索,便按照AI的指引扫码支付了1618元保费。然而付款后,他迟迟查不到保单信息。再次询问AI,得到的回复是:需等到当日午夜过后才能生成保单,暂时查询不到属于正常现象。这一解释暂时打消了他的顾虑。

直到保单始终未能生成,投保人才意识到情况不对。他根据收款二维码关联的商户信息,找到了收款账户的持有者——正是那位发帖的网友,并告知对方自己已报案,要求尽快退回1618元保费。
至于收款码为何被AI误认为保险付款码,发帖人推测:自己曾在开源代码仓库、个人博客等公开渠道上传过收款二维码。很可能AI客户端的训练数据抓取了这些公开信息,错误地将其识别为保险公司的官方收款码。
针对此次事件,相关AI平台负责人回应称:经核查,是由于用户与AI进行多次交互后,模型出现幻觉,错误地调用了网络上公开的个人收款信息,从而引发了这场乌龙。平台表示该问题已在第一时间得到修复。目前,当用户询问个人付款信息或二维码时,模型将不再输出他人公开资料。
借此案例提醒广大用户:使用AI处理金融、保险等涉及资金转账的业务时,务必保持高度警惕。切勿直接依据AI提供的二维码或账户进行支付,务必仔细确认收款方身份的真实性。否则,资金流入他人账户,AI无法承担任何责任。

