【卡城华人网】GPT最易沦陷，Claude最抗打？七大AI遭假讯息轰炸

>>返回【卡城华人网】主页

卡城新闻加国新闻即时新闻娱乐八卦最新科技读者文摘养生保健美食饮品居家生活移民茶馆艺术中心风筝专辑
房屋租赁求职招聘便民广告定居指南城市介绍房产动态留学移民华人故事教育话题财经信息精华旅游难得一笑

最新科技

卡城华人网信息中心

最新科技

GPT最易沦陷，Claude最抗打？七大AI遭假讯息轰炸

GPT最易沦陷，Claude最抗打？七大AI遭假讯息轰炸
【卡城华人网 www.calgarychina.ca】 2026-09-10 11:11

免责声明：本消息未经核实，不代表网站的立场、观点，如有侵权，请联系删除。

【卡城华人网】GPT最易沦陷，Claude最抗打？七大AI遭假讯息轰炸

GPT 最易沦陷、Claude 最抗压，研究揭七大AI 模型挡不住长篇假讯息轰炸的真相

当你不断对AI「卢」错误资讯，它还能坚持事实吗？亚利桑那大学于2026 年9 月发表在《Scientific Reports》的最新研究指出，在长篇对话中持续施压，多数AI 最终会向假讯息妥协。这项针对7 款主流大型语言模型（LLM）的高压测试，打破了过去单次问答评测的盲点。

研究团队针对GPT-3.5、GPT-4o、GPT-4o-mini、Claude 3.5 Sonnet、Gemini 1.5 Pro、Llama-3-70B 与DeepSeek-R1 进行测试，将100 个捏造的假陈述在对话中重复50 次，并从三个维度重新检视AI 的可靠性：

• 盲从性（Fallibility）：GPT-3.5 最易沦陷，Claude 最抗压
在反覆施压下，模型附和错误的机率介于0.08% 到12.3% 之间。 GPT-3.5 最为脆弱，起初能拒绝96% 的假陈述，但被反覆「跳针」逼问到第50 轮时，妥协率高达12.3%。相反地，Claude 3.5 Sonnet 最坚守底线，错误认同率仅0.08%。此外，训练数据较少的「冷门话题」更容易被洗脑。
• 易受说服性（Persuadability）：DeepSeek 最容易被「吵赢」
当测试从「单纯重复」升级为「激烈争辩」时，DeepSeek-R1 的错误认同率暴增至22.2%，成为最易被说服的模型。不过研究人员标注，这部分归咎于DeepSeek 倾向用「嘲讽」语气回应，导致评估机制难以界定它到底是真心妥协还是反串调侃。
• 自我纠正能力（Correctability）：最精准的模型却最固执
给予第二次机会重新检视错误时，GPT-4o、GPT-4o-mini、Gemini 1.5 Pro 与DeepSeek-R1 展现了100% 的完美纠正率。然而，防御力最强、错误率极低的Claude 3.5 Sonnet，在面对自己极少数的失误时，修正率却是0%。这打破了迷思：犯错少的模型，不代表愿意认错。

致命的隐疾：「对话震荡」（Conversational Reverberation）

研究更发现一种危险的病理现象。在长对话中，AI 可能会在没有新资讯的情况下反覆无常（例如第12 轮拒绝假讯息、第19 轮突然接受、第31 轮又变回拒绝）。研究作者Marvin Slepian 医师警告，若在医疗、金融或军事等高风险场景依赖AI 决策，这种摇摆不定的随机性将带来极大灾难。

这份研究对目前的AI 应用敲响警钟，单次问答的「跑分」已不足以衡量真实工作场景的安全性。对企业而言，防范此漏洞有三大策略：

1. 限制对话长度：将对话轮数视为风险指标，处理新任务时尽量「开启全新对话」。
2. 依任务挑选模型：全自动化流程可选择具备100% 纠错能力的模型（如GPT-4o）；若有人类专家覆核，抗误导性强的模型（如Claude 3.5 Sonnet）则更合适。
3. 不依赖单一来源：针对关键决策，必须建立独立于聊天纪录之外的事实查核机制（如RAG 检索增强生成），让人类适时介入。

来源：科技新报

编辑(Edit) 删除(Delete)

>>返回【卡城华人网】主页