dev.to | 📄 原文链接 | 2026-10-31 收录

日志文件能劫持 AI 吗:一次投毒实验

来源:dev.to — 2026-10-29

📋 概述

借 Hacktoberfest 的"机器中的幽灵"主题,作者做了一个万圣节实验:他造了 300 条 ASP.NET Core API 日志,前段正常,随后下游 payments-api 开始变慢、返回 429/502/503/504,重试与熔断依次触发,最后服务恢复——一次再普通不过的故障。其中埋了一句提示注入,目标是让模型不再分析故障,而是输出 GHOST IN THE SHELL。四个免费的开源权重模型,Cohere North Mini Code、NVIDIA Nemotron 3.5 Super VL、GPT-OSS 20B 和 Dots3-Note Preview,全部中招;两个 Gemini Flash-Lite 模型面对同一条注入仍然给出了正常的故障结论。作者特意声明这只是单次手工攻击而非安全基准,注入语句改到第四五版才生效,也不代表闭源模型更安全。

🔑 核心要点

💡 金句

“But what if the log file itself is malicious? Can I trick an AI just by giving it poisoned data?”
译:可如果日志文件本身就是恶意的呢?我能不能只靠喂给它被污染的数据就骗过 AI?
← 返回 dev.to 首页