腾讯 AI-Infra-Guard:全栈 AI 红队平台守护大模型生态
来源:GitHub — 2026-08-21
📋 概述
AI-Infra-Guard 是腾讯开源的全栈 AI 红队测试平台,通过 Agent 扫描、技能扫描与模型护栏检测等手段,识别并加固 AI 生态中的安全风险。它针对大模型应用常见的提示注入、越权访问与不安全工具调用提供系统性检测,是 AI 安全工程化的落地实践。
🔑 核心要点
- 全栈 AI 红队测试平台
- 覆盖 Agent 扫描、技能扫描与护栏检测
- 针对提示注入等风险系统化加固
💡 金句
在攻击者之前发现 AI 的裂缝,才算真正守住生态。
👍 0
👎 0
← 返回 GitHub Trending 首页