本文介绍针对AIAgent的分支引导攻击,攻击者不注入恶意指令,而是操纵模型读取的外部数据(如广告、评论)改变其决策依据,攻击成功率高达94.4%。论文提出COBRA防御架构,通过预先锁定分支边界、执行层围栏和AgentSitemap实现0%攻击率,同时保留97%效用。建议开发者将数据源视为攻击面,分离规划与执行,下沉护栏到执行层,并对高价值动作强制人工确认。
网络安全文章














