AI Agent 时代，我被深信服这场培训“打醒”了

原创

重生之咸鱼说安全
重生之咸鱼说安全

重生之咸鱼说安全

2026年6月8日 23:30
湖南

在小说阅读器读本章

去阅读

2024年以来，大模型技术突飞猛进，但一个尴尬的现实是：大多数企业的AI应用仍然停留在POC阶段，真正能跑到生产环境的少之又少。

原因很现实——缺人、缺数据、缺know-how。大多数企业的业务部门想用AI，但IT团队分身乏术；好不容易搭起来的Agent，回答质量参差不齐，复杂文档解析不准，私有知识用不起来……

但今天这场关于深信服 FastGPT（也叫 Sangfor Agent Builder）的培训，让我对\"企业级AI Agent落地\"这件事有了全新的认知。

不是说它完美无缺，而是它让我意识到一件事——AI Agent 这波浪潮，已经不是“狼来了”的故事，而是正在真实发生的产业重构。而我之前对这个领域的认知，还停留在“调个API接个知识库”的阶段。

这篇文章，就是我今天听课过程中的一些真实思考。没有广告，没有恰饭，纯粹是一个技术人对这几个议题的梳理和复盘。看完之后你会知道：RAG、Agent、提示词工程这三件事，为什么现在必须放在一起理解；以及，为什么我开始认真看待企业级 AI 落地这件事了。

一、提示词工程：大多数人低估了它，也高估了它

很多人听到“提示词工程”这四个字，第一反应是：不就是跟 AI 说话嘛，有什么好学的？写得详细点、说清楚需求就行了。

坦率讲，我之前也是这么想的。但真实的情况是：

假设面对同一个需求——“帮我写一封投诉邮件”——用不同的提示词结构写，给出来的结果差异大到什么程度？

第一组，用户直接说：帮我写一封投诉邮件。

AI 出来的结果，行文规规矩矩，语气客气，逻辑清晰，但就是——没有用。你拿这封邮件去投诉，大概率石沉大海，因为太官方了，没有把情绪传达出来，没有施压感。

第二组，用户说：你是我的法务助理，熟悉《消费者权益保护法》，我需要向某电商平台投诉他们延迟发货且客服态度恶劣。请帮我写一封措辞严厉但不违法的投诉邮件，目标是通过法律途径施压。邮件中需要包含具体条款引用、赔偿诉求和明确的回复时限要求。

出来的结果，有法律条款引用，有消费者权益保护法的具体条文，有明确的赔偿诉求和 deadline，语气拿捏得恰到好处。

提示词的本质，不是“你让AI做什么”，而是“你用什么框架去约束AI的行为”。

这个框架，包括了角色定义（Role）、上下文背景（Context）、任务目标（Task）、执行约束（Constraints），甚至还包括了你给它的示例（Few-shot）和思维链引导（Chain-of-Thought）。

你越把这些东西定义清楚，AI 的输出就越稳定、越可控。

到这里，我开始理解，为什么很多人在用 AI 的过程中会觉得“AI太不稳定了”，但另一些人用 AI 却像在用一个可靠的数字员工。差距不在 AI，在提示词。

更深的一层是，当你在构建一个企业级 AI Agent 的时候，提示词工程就不只是“写几个字”的问题了，它本质上是一种业务逻辑的编程。你要把你的业务流程、行业规则、输出标准，全部用自然语言精确地写进提示词里，然后让 AI 去执行。

二、RAG：不只是“知识库问答”那么简单

RAG，检索增强生成，这四个字我相信只要你在关注 AI 领域，就一定听过。原理听起来也很简单：用户提问 → 去知识库里检索相关文档 → 把检索结果和大模型拼在一起 → 生成回答。

但问题来了——为什么很多企业搭了 RAG 系统之后，发现效果一塌糊涂？

讲师在课上给了一个让我印象很深的答案：RAG 的效果，80% 取决于知识库的构建质量，而不仅仅是 RAG 技术本身。

第一个坑，是文档解析。

企业内部的知识库文档，格式五花八门。Word、PDF、Excel、PPT，甚至还有扫描件图片。传统的 RAG 系统在解析这些文档的时候，复杂格式往往处理不好——跨页表格变成乱码，手写体无法识别，代码块丢失格式，公式变成一堆乱字符。

第二个坑，是切片策略。

一篇文章切成多少块、块与块之间有没有重叠、每块带不带元数据，这些细节直接决定了检索质量。

我之前看过一个案例，某企业 POC 阶段在 500 份测试文档上问答准确率 92%，看着很漂亮。上线接入全部 4.2 万份内部文档之后，第一周准确率跌到 61%。

第三个坑，是向量检索的局限性。

纯向量搜索，本质上是语义模糊匹配。它在处理“意思相近”的问题时表现不错，但在精确匹配的场景下——比如查一个合同编号、查一个零件型号——效果往往不如传统的关键词搜索。

所以业界现在主流的做法是混合检索（Hybrid Retrieval）：向量检索加 BM25 关键词检索并行，用 RRF 融合排序结果。两路并进，召回率可以从单一向量检索的 65% 提升到 82% 以上。

第四个坑，是幻觉问题。

RAG 理论上应该能减少幻觉，因为大模型是在检索到的文档基础上生成的。但现实是，当检索结果不够精确，或者用户的提问超出了知识库覆盖范围，大模型还是可能“自信地编一个答案出来”。

三、从 RAG 到 AI Agent：不是替代，是进化

很多人会把 RAG 和 Agent 当成两条平行的技术路线：RAG 做知识问答，Agent 做任务执行。

但课上讲师说的一个观点我非常认同：RAG 是 Agent 的知识基础层，Agent 是 RAG 的能力扩展层。两者不是二选一，而是必须融合的。

一个没有 RAG 能力的 Agent，大模型的知识有截止日期，也不了解企业的私有业务数据。反过来，一个只有 RAG 能力的系统，它只能回答“文档里写了什么”——但用户真正需要的不只是查询，而是帮我完成一个任务。

这就引出了 Agentic RAG 的概念——把 AI Agent 的自主规划能力嵌入 RAG 管道。系统不再是固定流程的“检索→生成”，而是可以根据用户意图动态决定：要不要多轮检索？要不要调用外部 API？检索结果不够用的话要重写查询词再搜一轮？

但这里也有一个现实的问题：Agentic RAG 在生产环境中的失败率相当高。

根据行业数据，大约 90% 的 Agentic RAG 项目在生产部署中遇到了问题。主要原因是：每多一个工具调用，就引入一层失败概率。如果 Agent 每一步成功率是 95%，10 步的工作流整体成功率只有 59.9%。60% 的可用率，在严肃的企业业务场景里是完全不可接受的。

讲师提了一个务实的建议：从小步开始，先用单 Agent 加少量工具，把可靠性做到 90% 以上，再增加复杂度。 不要一上来就搭一个“万能 Agent”，而是先找一个高频、边界清晰、有明确验收标准的场景。

四、深信服 FastGPT：我认真看了，是真有东西

深信服 FastGPT（商业版叫 Sangfor Agent Builder），是深信服和开源平台 FastGPT 的深度战略合作产品。

第一，是私有化部署和权限管控。

数据不出域，这是很多政企客户的核心诉求。深信服的超融合、VMware 虚拟机、都可以部署，支持本地私有化。

第二，是复杂文档解析和知识检索算法的优化。

课上展示了针对跨页表格、pdf、公式、代码块这些复杂格式的解析效果，确实比通用的解析器要强不少。讲师现场测试了一个包含跨页表格的pdf文档，解析结果不仅还原了表格结构，还保留了语义关联——这一点确实让我意外。

第三，是可视化工作流编排。

用户不需要写代码，通过拖拽配置就能构建复杂业务逻辑的工作流。工作流里的每个节点、每个分支、每次工具调用，都有调试日志和耗时统计。对于 Agent 行为的可观测性来说，这个设计是必要的。

以RAG知识检索为例，从用户输入Query开始，经过Query改写、混合检索、重排、大模型输出，每个环节的耗时和日志都会清晰呈现。

当检索效果不达预期时，可以快速定位到具体是哪个步骤出了问题，大幅降低排查成本。

五、我的思考：AI Agent 落地，到底难在哪

“AI Agent 落地的难点，从来不是技术本身，而是技术、业务和组织三者之间的对齐。”

技术层面，今天讲的这些——提示词工程、RAG、Agent、可视化工作流——单拎出来，每一个只要大家肯花时间去学习都不复杂。但当你要把这些技术组合起来，真正解决一个业务问题的时候，你会发现：

▶ 业务人员不知道怎么提需求。他们会说“我要一个能回答客户问题的AI”，但说不清楚“客户会问什么问题、什么情况下要转人工、回答错了谁来负责”。

▶ 数据团队搞不定知识库建设。哪些文档应该进知识库？怎么切分？怎么保证质量？怎么持续更新？这些事情比搭一套 RAG 系统本身要复杂得多。

▶ IT 部门搞不定运维和监控。Agent 的行为怎么观测？效果退化怎么发现？出错了怎么回滚？这些问题没有现成的答案，每家企业都得自己摸索。

以前我觉得，难的是技术。现在我觉得，难的是组织。

结尾

回到开头那个问题。

当然不是说深信服 FastGPT 解决了所有问题——Agentic RAG 的生产落地难题、企业知识库持续运营的人力成本、组织对齐的挑战，这些都不是一个产品能彻底解决的。

但它让我看到了一件事：AI Agent 的企业落地，已经从“能不能搭”的时代，进化到了“能不能用好”的阶段。

深信服选择了一条务实的路：不追求“万能 Agent”的概念领先，而是把功夫花在知识解析、检索优化、效果调优这些看起来不够“酷”但真正决定落地质量的事情上。

这条路，慢，但扎实。

对于正在考虑 AI Agent 落地的企业来说，我的建议是：先找一个边界清晰、高频复现、有明确验收标准的场景，从那个场景切入，把效果做到 90 分，再考虑扩展。不要一上来就搞大而全的平台，那个方向目前还没有成功的先例。

AI Agent 这波浪潮里，最终能跑出来的企业，不是技术最强的，而是落地最务实的。

好了，我是真的写完了。

我们，下次再见。