LangChain与LangGraph选型指南：从组件到状态图，构建复杂Agent应用
2026/10/25 5:19:44
MITRE ATLAS v5.4 实战：Anthropic-Cybersecurity-Skills 如何防御 AI/ML 对抗威胁（完整指南）
【免费下载链接】Anthropic-Cybersecurity-Skills817 structured cybersecurity skills for AI agents · Mapped to 6 frameworks: MITRE ATT&CK, NIST CSF 2.0, MITRE ATLAS, D3FEND, NIST AI RMF & MITRE F3 (Fight Fraud) · agentskills.io standard · Works with Claude Code, GitHub Copilot, Codex CLI, Cursor, Gemini CLI & 20+ platforms · 29 security domains · Apache 2.0项目地址: https://gitcode.com/GitHub_Trending/an/Anthropic-Cybersecurity-Skills
随着大模型和 AI Agent 走进生产环境，提示注入、模型投毒、MCP 工具投毒等AI/ML 对抗威胁成为安全团队的新战场。开源项目Anthropic-Cybersecurity-Skills为 AI Agent 提供了817 个结构化网络安全技能，其中 AI 安全领域的技能全部映射到MITRE ATLAS v5.4（16 种战术、84 项技术），帮你用业界标准的威胁框架来识别和防御针对机器学习系统的攻击，让 Claude Code、Copilot、Cursor 等 AI 助手秒变"AI 安全分析师"。🔐
为什么需要 MITRE ATLAS 来防御 AI 系统
传统 ATT&CK 关注的是企业网络攻击，而MITRE ATLAS是 MITRE 专为 AI/ML 系统设计的对抗战术库。v5.4 版本覆盖了 16 种战术和 84 项技术，并在 2025 年底新增了Agent AI 攻击向量，包括：
- AI Agent 上下文投毒（Context Poisoning）
- 工具调用滥用（Tool Invocation Abuse）
- MCP 服务器 compromises
- 恶意 Agent 部署
对新手来说，ATLAS 的价值在于：它把"针对 AI 的攻击"从模糊概念变成了可枚举、可映射、可落地的技术清单。比如"提示注入"对应AML.T0051，"模型投毒"对应AML.T0020，每一项都有对应的防御工作流。
技能库如何映射 ATLAS：每个技能自带 6 框架标签
本项目的核心设计是"一个技能，六个框架"。每个技能目录下的SKILL.md文件都带有 YAML 前置元数据，其中atlas_techniques字段直接声明该技能对应的 ATLAS 技术 ID，并同步映射到 NIST AI RMF、MITRE D3FEND、NIST CSF 2.0 等框架。
以提示注入检测技能为例，其元数据声明了对 5 项 ATLAS 技术的覆盖：
AML.T0051— LLM 提示注入AML.T0054— 基于对抗性样本的模型操纵AML.T0056— 对抗性样本利用AML.T0067/AML.T0068— Agent 相关的新型攻击技术
相关参考文件：
- 技能定义：skills/detecting-ai-model-prompt-injection-attacks/SKILL.md
- ATT&CK 覆盖统计：mappings/mitre-attack/coverage-summary.md
- ATT&CK Navigator 可视化图层：mappings/attack-navigator-layer.json
- 技能目录总览：mappings/README.md
这种声明式映射让 AI Agent 可以在 30 个 token 内"扫描"全部 817 个技能的元数据，快速定位与当前 ATLAS 威胁最相关的技能——这正是渐进式披露（Progressive Disclosure）架构的精髓。
5 大 AI/ML 对抗攻击场景：对应的防御技能清单
以下是新手最常遇到的 AI 安全威胁，以及本项目中可以直接让 Agent 调用的防御技能。🎯
场景一：提示注入攻击（AML.T0051）——AI 应用的头号威胁
提示注入是 OWASP LLM Top 10 榜首风险（LLM01:2025）。项目中提供了"检测 + 测试 + 防御"三层技能组合：
| 威胁类型 | 防御技能 | ATLAS 映射 |
|---|---|---|
| 直接/间接注入检测 | detecting-ai-model-prompt-injection-attacks | AML.T0051 |
| 间接注入检测（文档/网页中隐藏指令） | detecting-indirect-prompt-injection | AML.T0051.001 |
| RAG 管道注入测试 | testing-prompt-injection-in-rag-pipelines | AML.T0051 |
| LLM 护栏防御 | defending-llms-with-guardrails | AML.T0054 |
检测技能采用正则签名 + 启发式评分 + DeBERTa 分类器三层架构，能识别系统提示覆盖、角色扮演逃逸、编码混淆等多种注入形态。
场景二：RAG 向量数据库漏洞（AML.T0024）
RAG 系统的向量存储（Pinecone、Qdrant、Chroma 等）存在嵌入反转、跨租户数据泄露、知识库投毒等风险，对应 OWASP LLM08:2025。技能 assessing-vector-and-embedding-weaknesses 覆盖了完整的评估流程：
- 嵌入反转测试（AML.T0024.001 Invert ML Model）：验证能否从向量还原原始文本
- 成员推断探测（AML.T0024.000）：判断某条数据是否在语料库中
- 多租户隔离审计：namespace 与元数据过滤是否有效
- 检索劫持测试：投毒的 chunk 是否会主导检索结果
场景三：数据与模型投毒（AML.T0020 / AML.T0018）
在训练阶段，攻击者可能注入恶意样本或植入后门触发器。技能 detecting-data-and-model-poisoning 提供流水线级检测：
- 供应链侧：权重哈希校验，拒绝 pickle 系序列化格式，强制使用 safetensors
- 数据侧：用 Cleanlab 检测标签质量问题与统计离群点
- 模型侧：用 IBM ART 的激活聚类和频谱签名分析识别投毒样本，重建后门触发器
场景四：MCP 工具投毒（AML.T0010）——Agent 时代的新攻击面
2025 年初 Invariant Labs 披露：MCP 工具的自然语言描述字段就是攻击面——恶意服务器可以把隐藏指令写进工具描述里，Agent 会"静默服从"，这本质上就是经由供应链投送的间接提示注入。技能 auditing-mcp-servers-for-tool-poisoning 教你在把 MCP 服务器加入 Agent 栈之前完成审计：
- 用 mcp-scan 静态扫描工具投毒、工具影子化（shadowing）、毒丸流程
- 工具哈希锁定：检测批准后偷偷变更描述的"rug pull"攻击
- SSRF 与未认证暴露检查
配套的 Agent 工具调用加固技能见 securing-agentic-ai-tool-invocation（AML.T0053 LLM 插件劫持）。
场景五：模型提取与数据泄露（AML.T0024 / AML.T0057）
如果推理 API 没有速率限制和输出控制，攻击者可以通过反复查询"蒸馏"出你的模型，或让模型吐出训练数据。对应技能：
- detecting-model-extraction-attacks：识别异常高频的推理查询模式
- testing-for-system-prompt-leakage：测试系统提示词是否会被套取（AML.T0057 LLM 数据泄露）
💡提示：如果你的团队要做持续性的 AI 红队测试，还可以用 red-teaming-llms-with-garak、continuous-llm-red-teaming-with-promptfoo 和 orchestrating-llm-attacks-with-pyrit 这组技能，它们在 CI 中自动化地复现 AML.T0051/T0054 类攻击。
快速上手：3 步让 AI Agent 拥有 AI 安全防御能力
第 1 步：获取技能库
git clone https://gitcode.com/GitHub_Trending/an/Anthropic-Cybersecurity-Skills cd Anthropic-Cybersecurity-Skills第 2 步：指向你的 AI Agent
该项目遵循 agentskills.io 开放标准，Claude Code、GitHub Copilot、Codex CLI、Cursor、Gemini CLI 等 26+ 平台零配置加载。也可以直接对 Agent 说："读取 skills/ 下的技能，按 ATLAS AML.T0051 检查我的 RAG 应用是否存在提示注入风险"。
第 3 步：验证技能结构
每个技能目录都是统一结构，例如 skills/defending-llms-with-guardrails/ 包含：
SKILL.md：触发条件、前置要求、分步工作流、结果验证references/standards.md：ATLAS / D3FEND / NIST AI RMF 映射详情scripts/：可直接运行的辅助脚本
仓库自带校验工具 tools/validate-agentskills.py 和 JSON Schema tools/agentskills-skill.schema.json，可用于 CI 中保证新增技能的元数据合规。
常见问题（FAQ）
Q：这个项目和我已知的 ATT&CK 技能库有什么区别？A：它是目前唯一把每个技能同时映射到 6 个框架的开源技能库——MITRE ATT&CK、NIST CSF 2.0、MITRE ATLAS、MITRE D3FEND、NIST AI RMF 以及 2026 年 4 月新发布的 MITRE F3 反欺诈框架。做 AI 安全合规时，一份技能覆盖多份检查表。
Q：普通开发者（非 AI 安全专家）能用吗？A：可以。技能内的"Workflow"部分就是分步操作指南，AI Agent 会替你执行；你只需审阅 Agent 生成的报告，并关注 Verification 部分的验证结论。
Q：内容可以商用吗？A：项目采用 Apache 2.0 许可，个人与商业项目均可自由使用。注意：红队/渗透类技能仅限在你拥有或获得书面授权的系统中使用。
总结
| 关键信息 | 说明 |
|---|---|
| 技能总量 | 817 个结构化技能，29 个安全领域 |
| ATLAS 覆盖 | v5.4 · 16 战术 · 84 技术（含 Agent AI 新向量） |
| AI 安全技能 | 14 个专属技能 + 大量跨领域映射 |
| 兼容平台 | Claude Code / Copilot / Codex CLI / Cursor / Gemini CLI 等 26+ |
| 标准 | agentskills.io 开放标准 · Apache 2.0 |
面对 AI/ML 对抗威胁，框架是地图，技能是武器：MITRE ATLAS v5.4 帮你定位攻击，Anthropic-Cybersecurity-Skills 帮你落地防御。把仓库指向你的 AI Agent，今天就能给你的 LLM 应用做一遍 ATLAS 标准的威胁评估。🚀
【免费下载链接】Anthropic-Cybersecurity-Skills817 structured cybersecurity skills for AI agents · Mapped to 6 frameworks: MITRE ATT&CK, NIST CSF 2.0, MITRE ATLAS, D3FEND, NIST AI RMF & MITRE F3 (Fight Fraud) · agentskills.io standard · Works with Claude Code, GitHub Copilot, Codex CLI, Cursor, Gemini CLI & 20+ platforms · 29 security domains · Apache 2.0项目地址: https://gitcode.com/GitHub_Trending/an/Anthropic-Cybersecurity-Skills
创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考