跳转至

weve-been-here-before-ai-vulnerability-research

Ch01.457 weve-been-here-before-ai-vulnerability-research

📊 Level ⭐⭐ | 7.7KB | entities/weve-been-here-before-ai-vulnerability-research.md

-> 原文存档

摘要

Title: We've Been Here Before: Decompilers, Fuzzers, and Now AI URL Source: https://www.clearseclabs.com/blog/weve-been-here-before-ai-vulnerability-research/ Published Time: 2026-05-09T00:00:00.000Z Markdown Content: Mythos. The most recent name in AI RE/VR hype. What I Keep Hearing​ Lately, the same conversation keeps coming up with colleagues, students, and fellow researchers. The shape of it is roughly:

_I've started reading and experimenting with AI, and honestly, it's really good. In som...

关键要点

  • 技术领域：AI / Newsletter
  • 来源：Newsletter
  • 评分：value=7, confidence=8, product=56

链接

深度分析

1. "VR 已死"论的历史先例：每个工具时代都重复出现 文章的核心历史论证是：安全工具每一代都会引发"人类专家将被替代"的恐慌——从 Decompiler（Hex-Rays）、Fuzzer（AFL/OSS-Fuzz）到静态分析工具（Coverity/CodeQL/Semgrep），每一次都是同样的模式：工具自动化了"容易的工作"，人类转向"更困难、更有影响力的工作"。AI 在漏洞发现领域正在发生完全相同的事情。这不是例外，这是规律 。 2. "容易的漏洞"被 AI 消灭，但"有趣的漏洞"仍是人类领地 Fuzzer 的历史教训精准对应 AI 的现状：AFL 消灭了"容易发现的输入验证和内存破坏 bug"，但逻辑漏洞、设计问题、复杂状态机 bug、认证绕过仍需要人类直觉。AI 在漏洞发现上的进展——包括 Anthropic 找到 OpenSSL 12 个零日——主要还是已知的 bug 类别。发现全新的 bug 类别仍然是人类的工作 。 3. AI 作为攻击工具和防御工具的双重性：攻防均衡论 文章提出了一个深刻的"均衡论点"：如果 AI 同时赋能攻击和防御，那么"漏洞变得免费"对攻击者有利，但防御者可以用 AI 在 CI/CD 流水线中持续运行扫描——这比攻击者的"一次性尝试"更占优势。在"攻防均衡"状态下，防守方只需要修复最短板，而攻击者必须找到完整漏洞链，这让防御者享有结构性优势 。 4. 新颖漏洞类的发现：AI 仍然依赖人类提出正确的问题 AI 在漏洞研究中的局限性在于：它擅长在给定的代码库和已知的 bug 模式中搜索，但对"应该去哪里找什么样的漏洞"仍需要人类判断。Anthropic 的 500+ 漏洞发现成果和 Claude Mythos 发现 17 年历史的 FreeBSD RCE 之间存在重要区别——前者是规模化搜索已知类别的成果，后者则是由人类研究者选择了正确目标的成果 。 5. 行业心态数据：ISACA 调查的 87% 预期 AI 增强而非替代 ISACA 调查显示 87% 的网络安全专业人员预期 AI 将增强其工作，而非替代他们；仅 2% 认为会被完全替代。这组数据说明业界主流共识并非恐慌心态，而是适应性心态——"如何在 AI 环境中找到自己的增值位置"而非"AI 何时让我失业" 。

实践启示

1. 漏洞研究者：将 AI 视为"无限初级研究员"而非"竞争者" 漏洞研究者的正确 AI 使用姿势是：把 AI 视为可以快速完成大量基础扫描的"无限初级研究员"，自己扮演"判断这些发现哪些有价值、哪些是误报、应该去哪里深入"的高级研究员角色。AI 的规模优势 + 人类的判断优势，才是最高效的组合。 2. 安全团队：建立 AI + 人类协同的分层评审流程 不要完全依赖 AI 自动发现，也不要完全依赖人类专家。建立两阶段流程：AI 系统在 CI/CD 中持续扫描，人类研究者专注于 AI 报告的分类、优先级评估和深度利用分析。这样既能获得 AI 的规模优势，又能保持人类在上下文判断上的核心作用。 3. AI 安全产品评估：关注误报率和"有趣漏洞"发现能力 在评估 AI 漏洞发现产品时，不仅要看总漏洞数，更应关注：误报率（噪音有多大）以及是否能在无明确提示的情况下发现设计类/逻辑类漏洞。AI 找到 1000 个输入验证 bug 不如找到 1 个认证绕过漏洞有价值。社区应建立针对"AI 发现新颖漏洞"的专门基准。 4. 安全新人：学习 AI 工具应优先于深入传统逆向工程 对于刚入行的安全从业者，AI 工具学习（Agentic RE、Claude/MCP 使用）是当务之急，同时建立对传统漏洞研究方法的理解（逆向工程、Fuzzing、代码审计）。两者的优先级已发生变化——AI 工具能力决定你能否高效执行，底层方法论决定你能否在 AI 找不到漏洞时仍有突破口。 5. 防守方心态：AI 洪水会提升防守门槛，但也会淹没攻击者 不要忽视防守者拥有 AI 的优势：防守方可以在每次提交时运行 AI 扫描、可以在所有依赖项上运行 AI 检查、可以持续进行基于 AI 的渗透测试——这些是攻击者无法在单次行动中完成的。AI 实际上扩大了持续防守的优势，而非单次攻击的优势。

相关实体