来源:intigriti.com — intigriti.com · 24 分 · by snikolaev
📋 概述
Intigriti 研究者总结了针对 AI 客服智能体的实战攻击面:可以用提示注入让它把整段对话记录转成邮件发往指定地址,从而变成钓鱼工具;而多数邮件转录服务还存在 From 头伪造问题,攻击者能冒充受害者邮箱与被训练的智能体对话,甚至借 support@ 地址向受害者发信。如果智能体还具备改资料、读账单、甚至转账这类工具调用能力,攻击者只要把自己放进抄送就能收到本应发给受害者的机密回复。