给AIAgent上把锁:工具调用的最小权限原则

admin 2026-11-19 00:59:22 网络安全文章 来源:ZONE.CI 全球网 0 阅读模式

给 AI Agent 上把锁:工具调用的最小权限原则

原创

夜游神
夜游神

船山信安

2026年11月17日 23:01
湖南

去阅读

AI安全 · AISEC

给 AI Agent 上把锁:工具调用的最小权限原则

一个能读文件、能发请求、还能执行 shell 的 Agent,等于把三把钥匙串在一根环上。丢一次,全丢。

Agent 安全不是把它关得越死越好,是它只能用得上、且仅用得上的那点权限。

本文讲 AI Agent 的权限治理思路,全部配置为教学示意,不涉及任何真实系统或未修复漏洞的利用。

01Agent 和聊天机器人的区别在哪

聊天机器人说错话,最多是错话。Agent 有工具,说错话会变成真动作——这是两种完全不同的风险等级。

工具调用把「生成」变成了「执行」,风险从内容层直接跳到了系统层。你之前那套防提示词注入的经验,在这儿只解决了一半问题。

02三种常见的权限过头

1一把钥匙开所有门:一个高权限凭证通吃所有工具,越权无从拦截

2工具能力过宽:叫「读文件」,却顺带能写、能删、能遍历目录

3没有确认环节:高风险动作自动执行,事后才发现

03最小权限怎么落地

原则就一条:按任务拆权限,按动作收粒度,高风险加确认。落到工程上是四件事。

1按任务拆凭证:读和写分开,查询和执行分开,不复用同一个身份

2工具粒度收窄到动作级:只读就别给写,要写就限定目录或表

3高风险动作加人工确认:删、改权限、对外发送,一律二次确认

4给 Agent 单独的账号和执行环境,不复用人的开发环境

04一段示意配置

把权限写成显式白名单,比靠提示词约束可靠得多。下面是纯示意结构,说明思路,不是可直接用的产品配置。

工具权限白名单(教学示意)

tools:

search\_docs:

scope: read-only

paths: [docs/\*]

query\_db:

scope: select-only

tables: [public\_catalog]

send\_message:

scope: external

require\_confirm: true

deny\_by\_default: true

deny\_by\_default 是关键:默认全拒,只放行明确列出的能力。反过来写,迟早出事。

05审计与兜底

权限收得再紧,也要假设它会被绕过。兜底靠三样东西:

1每次工具调用写审计日志:谁、何时、调了什么、参数是什么

2设速率与额度上限:单次任务、单个会话、单日总量

3可疑链路可一键熔断,用过的凭证定期回收

参考来源

OWASP Top 10 for LLM Applications(OWASP,公开)

NIST AI Risk Management Framework(NIST,公开)

本文为 AI Agent 权限治理的方法论与防护建议,全部配置为教学示意,不提供针对任何系统的利用步骤,不构成未授权测试建议。

评论:0   参与:  0