4月15日消息，近日，一起由AI大模型引发的乌龙付款事件在网络上引发关注。
有网友在某技术交流社区发帖爆料，自己从未从事过保险业务，却收到一位陌生人的消息，对方称在他这里购买了保险并转账1618元，但始终查询不到保单记录，这让发帖人一头雾水。
随着事件细节逐步曝光，这起乌龙的来龙去脉也逐渐清晰。
据悉，事发时，当事人（买保险的用户）通过AI客户端咨询并购买保险，AI根据其需求，不仅提供了具体的保险链接，还生成了一张支付宝收款二维码，并明确提示当事人，扫码付款即可完成投保。
当事人没有多想，按照AI的提示扫码支付了1618元保费，但付款后，他迟迟未能查询到相关保单信息。
于是，当事人再次咨询该AI客户端，得到的回复却是需等到当日24点后才能出单，暂时无法查看保单属于正常情况，这让当事人暂时放下了疑虑。
直到迟迟未等到保单，当事人才意识到不对劲，通过收款二维码对应的商家入口，联系到了收款账户的主人——也就是发帖的网友，告知对方自己已经报警，并希望对方能尽快退还这笔1618元的保费。
对于自己的收款码为何会被当成保险付款码，发帖人给出了推测：他表示，自己此前曾在开源代码库、个人博客等公开平台上发布过自己的收款二维码，怀疑是AI客户端的语料库抓取到了这些公开信息，误将其当作保险官方收款码推送给了买保险的当事人。
针对这起乌龙事件，涉事AI平台的负责人作出回应。负责人表示，经平台核实，该案例是由于用户与AI进行多轮对话后，模型出现幻觉，错误调用了网上公开的个人收款信息，才导致了这一乌龙的发生。
平台同时透露，该案例中的问题已第一时间修复。目前，当用户询问个人付款地址、付款二维码时，模型不会再给出个人公开信息的二维码。
在此提醒广大网友：通过AI办理金融、保险等涉及资金交易的业务时，务必提高警惕，仔细核实收款方的身份，切勿直接按照AI提示的二维码或账户转账，避免造成财产损失。
【来源：快科技】
