2026年5月前,德国安全工程师罗恩·斯托纳以12美元注册6nimmt.com域名,虚构《谁是牛头王》(6 Nimmt!)2025年世界冠军身份,并篡改维基百科词条。多款具备联网搜索能力的AI聊天机器人据此生成确凿答案,称其为冠军。该事件暴露检索增强生成(RAG)系统三大漏洞:检索层盲目信任高排名结果、训练语料易被长期虚假内容污染、智能体可能因误导执行危险操作。斯托纳指出,AI缺乏对信息源真实性的基础判别能力,呼吁行业加强数据溯源与风险预警机制。
2026年5月前,德国安全工程师罗恩·斯托纳以12美元注册6nimmt.com域名,虚构《谁是牛头王》(6 Nimmt!)2025年世界冠军身份,并篡改维基百科词条。多款具备联网搜索能力的AI聊天机器人据此生成确凿答案,称其为冠军。该事件暴露检索增强生成(RAG)系统三大漏洞:检索层盲目信任高排名结果、训练语料易被长期虚假内容污染、智能体可能因误导执行危险操作。斯托纳指出,AI缺乏对信息源真实性的基础判别能力,呼吁行业加强数据溯源与风险预警机制。
1284674160@qq.com