文章总结： 本文基于工业排产Agent事故案例，指出工业Agent核心问题并非技术能力不足而是缺乏信任，主要体现在无法预知可靠性边界、难以形成完整执行闭环及缺乏明确授权标准。作者提出应借鉴自动驾驶分级理念，分阶段推进Agent从报告员到值班技术员的角色演进，并建议行业建立基于风险等级、可回溯性与边界感知的授权框架以解决落地难题。 综合评分： 87 文章分类： 解决方案,安全建设,技术标准,其他

工业Agent的问题不是做不出来，是不敢让它干

原创

灯塔君 灯塔君

工业AI灯塔

2026年6月25日 07:30 湖北

在小说阅读器读本章

去阅读

说一件我自己经历过的事。

去年参与了一个排产Agent项目，说实话不算复杂，三条产线、十几台设备、一个紧急插单的优化问题。算法跑出来的方案确实漂亮，利用率堆得满，排期压缩到最优。上线第三周，出了个不大不小的事。

Agent自动接了一个紧急插单，把三号产线的三台设备都排满了。但它不知道其中一台设备当天下午安排了维保。信息在另一个系统里，两个系统没打通。货没按期出来，产线停了两个小时等维保做完才恢复。加上客户罚款，一算账接近四十万。

这个事让我难受的不是钱。是这个Agent以后，没人敢让它直接干活了。项目还在，但使用方式退回到”出方案给人看”。花了几十万，买了个更贵的报表工具。

事后复盘的时候，几方坐在一起，每个人都觉得自己没错。供应商说排产方案本身是优解，模型逻辑没有问题。设备维保说计划提前两周就发了邮件。甲方说系统没打通不是我的问题。

但所有人都承认一件事——不敢让Agent自个儿干了。

这件事之后，我想了很多。Agent今年确实火，汉诺威工博会在讲，WAIC预热也在讲，连卖MES的厂商都能聊两句。但经历过那次事之后，我反而觉得大家都聊偏了。

大家都在聊Agent能干什么，没人聊工厂为什么不敢让它干。

消费级的Agent，帮人订个行程、写个邮件，搞砸了损失几百块，重来就是。工业级的Agent，做一个决策搞砸了损失几万甚至几十万。一个消费Agent是私人助理思维，搞砸了最多被骂两句。工业Agent必须是值班工程师思维，每一个决策都有真金白银的后果。名字一样，工种完全不一样。

区别不在技术能力，在一个更根本的东西上——信任。

但信任这个东西，说清楚没那么容易。我自己的体会，卡住的地方大概有三个。

一个是不知道它什么时候不靠谱。消费Agent可以说”我不确定，你再查查”，这在工业现场是不及格的。管道泄漏检测的Agent说”可能漏了可能没漏”——值班员怎么处理。信它还是不信任它。工业场景要的不是”尽可能准确”，是要”知道自己在什么条件下准、什么条件下不准”。

这个体会怎么来的呢。我在一些边缘AI项目里见过，同样的视觉模型，白天光照稳定的时候98%，傍晚斜射光进来掉到75%。但交付报告上只写”整体准确率94%”。做决策的人拿着这个数字去现场用，根本不知道什么时候模型的判断会变形。而且坦白说，现在甲方采购标书的评价体系也没往这个方向设计——99%写的都是”准确率≥99.9%”，没有人写”不确定时主动告知”。验收标准决定行为。

另一个是不知道它能不能把事情做完。消费Agent给建议就够了。你说查天气，它告诉你下午有雨，信息到这里就是满分交付。工业Agent不一样。排产Agent算出了最优方案，没人执行怎么办，原材料没到怎么办，物流跟不上怎么办。一个只能出方案出不了结果的Agent，本质上是个高级Excel。

工业Agent要的是”感知→判断→执行→验证→修正”的完整闭环。但大部分工厂的数据基础撑不起这个环。你上了MES，他上了SCADA，隔壁车间还在用Excel排产。Agent说要联动，拉数据过来一看，格式不统一、时间戳对不齐。最后Agent的账都算在AI头上——”上了没用”。

还一个，坦白说是最根本的——没人清楚到底该给它多大的权限。目前工厂对待Agent的态度，用粗一点的光谱来分，大概是三层。第一层，不让碰，AI只出报表不做决策，绝大多数企业在这个阶段。第二层，让它建议，AI给方案人确认后再执行，能走到这一步的已经少很多了。第三层，有限授权，在明确边界内让AI自主执行，边界外必须上报，这个目前确实没见到多少真正做到的。

市面上讨论Agent的时候，大家的兴奋点都在模型能力、推理速度、工具调用这些技术上。授权这件事，我参加过几场闭门会，甲方圈子里有人聊，但公开场合几乎见不到。我猜供应商不是不想聊，是聊这个对卖产品没帮助——总不能跟甲方说”你先别完全信任我，咱们先跑一年建议模式”。

但不说透，Agent就落不了地。

那到底怎么落地。

我自己的想法是，工业Agent不应该走”替代人”的路径，而是”重新定义岗位”。

一个值班工程师的工作拆开来看，大概是六个环节：看数据、找异常、判断原因、制定措施、安排执行、验证结果。前两个环节机器已经可以做得比人好。后两个环节人和机器可以协同。中间两个环节暂时还是人的主场。

但大部分Agent供应商的方案是一上来就要替代人的完整链条，从感知到执行一把抓。看起来很酷，但甲方不买账。因为不透明，完全不知道里面怎么运作的。不透明的东西没人敢放权。

所以落地应该分阶段走，每个阶段对应一个清晰的授权层级。

第一阶段。Agent做报告员，感知数据、发现异常、给出预警，人做决策。这个阶段不需要Agent多聪明，只要比现有的规则系统准一点、误报少一点就够了。有一件事下周一就可以开始干——把工厂现有的历史报警数据拉出来，算一下实际准确率。我见过太多工厂连这个基准数据都没有。不知道现在在哪，就没法衡量上线后有没有改善。然后挑一条数据质量最好的产线，跑一个最简单的AI基线检测，三个月把误报率降下来就算数。

第二阶段。Agent做见习操作员，在明确规则内自主执行标准化操作，异常上报给人。这个阶段的核心不是技术，是定义”什么算明确规则”。很多工厂连自己的业务流程都没梳理清楚，更别说定义规则边界了。我见过一个气田，光是”冻堵”的处置就有六种不同的操作组合，取决于季节、井龄、管线材质——你让Agent什么时候自己干、什么时候上报。这个决策本身就很难。

第三阶段。Agent做值班技术员，在授权范围内独立操作，人做月度复盘。到这个阶段才算是”AI自个儿干活”。

这三个阶段的时间线，我见过跑得快的工厂，第一阶段半年，第二阶段一年。第三阶段目前确实还没见到谁真正跑通。

写到这里，我想到一个挺有意思的参照系。

自动驾驶行业有一个L0到L5的分级框架，从”无自动化”到”完全自动化”，每一级对应的都是人和机器谁的决策权更大。这套框架的作用不仅仅是技术定义，更关键的是——它让供应商和客户有了共同语言。一说L3，双方都知道意味着什么：人在特定条件下可以放开方向盘，但必须随时准备接管。

工业Agent缺的就是这个。如果你的工厂想上Agent，你问供应商”你这个Agent到了哪一级”，他说”我们是很先进的Agent”。这个回答等于没回答。你说”能不能像L3一样，在A类异常里自主处置，B类异常上报等人确认”，供应商说”可以定制”——但定制意味着没有标准，没有标准意味着每家的”自主”范围都不一样。

我不是说一定要哪家机构来出这个标准。但行业里如果有人能先把框架定义出来，供应商和甲方至少可以在同一个刻度上对话。

这个框架怎么搭，可能要从几件事开始碰。一个是从”风险等级”出发——决策失误的损失在什么范围内可以放权、什么范围内必须人确认。另一个是从”可回溯性”出发——Agent做的每一个决策，能不能完整追溯当时的输入、判断逻辑、执行结果。还有一个是从”边界感知”出发——Agent能不能识别自己何时处于能力边界之外，并主动停止。

这几件事不一定一开始就做全，但方向应该往这里走。

回到最初那个问题。

工业AI这件事，最后还是回到一个老问题上。你信不信它。你敢不敢让它犯错。你准备好在它犯错的时候谁来兜底。

这几个问题，模型迭代再快也回答不了。厂商的参数表解决不了信任问题。能解决的，只有一家工厂一家工厂地跑、一个场景一个场景地磨、一个授权边界一个授权边界地试。没有捷径。

好了，今天先聊到这里。

免责声明：

本文所载程序、技术方法仅面向合法合规的安全研究与教学场景，旨在提升网络安全防护能力，具有明确的技术研究属性。

任何单位或个人未经授权，将本文内容用于攻击、破坏等非法用途的，由此引发的全部法律责任、民事赔偿及连带责任，均由行为人独立承担，本站不承担任何连带责任。

本站内容均为技术交流与知识分享目的发布，若存在版权侵权或其他异议，请通过邮件联系处理，具体联系方式可点击页面上方的联系我。

本文转载自：工业AI灯塔 灯塔君 灯塔君《工业Agent的问题不是做不出来，是不敢让它干》