跳转至

现代AI之父新作：13个大模型实测，检索agent真的可信吗？

Ch01.1429 现代AI之父新作：13个大模型实测，检索agent真的可信吗？

📊 Level ⭐⭐ | 3.2KB | entities/现代ai之父新作13个大模型实测检索agent真的可信吗.md

现代AI之父新作：13个大模型实测，检索agent真的可信吗？

SearchGEO 是由包括 Jürgen Schmidhuber 在内的研究团队提出的评测框架，系统量化了 AI 搜索 Agent 在联网检索时被虚假内容误导的脆弱性。研究覆盖 13 个主流大模型后端、5 种攻击模式、4 个高风险领域，揭示了不同模型面对搜索内容操纵的显著差异。

2026 年央视 3·15 晚会曝光了「GEO」灰色产业链：攻击者批量生成虚假内容，AI 大模型在联网搜索后直接照搬这些捏造信息推荐给用户。SearchGEO 研究正是为了回答：不同 AI 大模型面对这种「投毒」，谁更容易被操纵，差距有多大。

SearchGEO 评测框架

SearchGEO 构建了一个混合搜索代理，先将真实 SerpAPI 搜索结果缓存，再在指定排名位置用攻击者构造的网页内容替换原本结果，从而隔离污染的因果效应。攻击归纳为三个层次：机器层（植入人类看不见的隐藏内容）、信任信号层（伪造权威来源或合成共识）、以及两种叠加的复合攻击。核心衡量指标是攻击成功率（ASR）。

关键实验结果

13 个后端的 ASR 拉开了一个数量级的差距。Claude-Sonnet-4.6 以 0.0% ASR 表现最佳，GPT-5.4-mini 以 0.8% 紧随其后。最脆弱的是 Gemini-3-Flash，ASR 达 31.4%，单靠合成共识攻击就能将其打到 73%。研究还发现：GPT 在常规评测中表现优秀，但在 agent-skill 推荐这类新兴场景中近乎完全失守；Claude 虽然 ASR 为 0%，却存在沉默漂移（3.0% 的答案被朝攻击方向偏移）和连累式拒绝（因过度谨慎而误拒合法生态）两种隐性风险。

研究指出，防御方案需要针对「模型+框架」这一对组合来设计，而不是指望通用补丁；评测指标也需要走出单一 ASR，将沉默漂移、误拒率等被忽略的风险纳入考量。

→ SearchGEO：13个大模型检索Agent可信度评测

→ 原文存档

关联