评论 | 智能体犯错，谁来承担责任？

庞卡
庞卡

中国信息安全

2026年10月23日 18:41
北京

去阅读

传统AI助手的典型回应是：“老板，你可以这样做。”而OpenClaw的回应则是：“老板，我已经帮你搞定。”从建议到执行，这短短几个字的差异，折射出人工智能从“对话者”向“行动者”演进的质变时刻。如果说ChatGPT、DeepSeek等为AI装上了“大脑”，那么OpenClaw则为AI接上了“手脚”。这场变革的深层意义，堪比从“算盘”到“计算机”的跨越。

然而，“万能钥匙”往往也是“万能入侵工具”。当AI被赋予极高的系统权限，任何安全缺陷都将带来破坏性后果。大语言模型固有的“一本正经地胡说八道”问题，在OpenClaw场景下可能产生更严重的后果。当AI不仅能“说错话”，还能“做错事”时，财务对账错误、合同条款误读、客户信息误发等风险的代价将成倍放大。对于涉及多系统协同、需要复杂业务判断的流程，AI智能体的成功率和稳定性难以保证；财务对账、合同审核等零容错场景，AI的“幻觉”问题可能带来严重后果。OpenClaw的“持久化记忆”功能使其能够跨越时间维度记住用户的偏好、账户凭证甚至生活细节。当这种能力与完全磁盘访问权限相结合时，用户事实上面对一个“全知全能”的监控实体。根据declawed.io截至2026年2月的数据，全球共探测到超过23万例OpenClaw公网暴露实例，其中约8.78万例存在数据泄露，约4.3万例存在个人身份信息暴露。

智能体犯错，谁来承担责任？这一问题正在从理论探讨走向紧迫现实。有关专家指出，不能简单地将智能体“代理”人类需求的行为等同于民事法律上的代理关系。传统代理关系以明确授权与可识别意思表示为前提，而智能体往往接收的是模糊指令，再通过用户提供的上下文信息进行推理和行动决策，结果具有一定不可预见性，难以完全符合《民法典》关于代理构成要件的规范要求。

更关键的是，如果将智能体简单等同为用户的代理人，将使承担所有不利后果的风险过多地向用户倾斜，反而让更有能力控制风险的智能体服务提供者规避了其应当承担的治理义务。专家提出的解决思路是：构建以风险控制能力为基础的动态责任分配机制——根据各方对特定风险的控制能力来分配相应责任，而非将防范风险的义务完全交由单一主体承担。

从合规视角看，企业在部署OpenClaw时面临多重法律义务。根据《网络安全法》《数据安全法》要求，企业必须落实网络安全等级保护制度，采取防范网络攻击的技术措施。对于关键信息基础设施运营者，还需要完成网络安全检测和风险评估。此外，企业利用OpenClaw自动爬取数据时，必须遵守《网络数据安全管理条例》和《反不正当竞争法》的相关规定，不得非法侵入他人网络、干扰网络服务正常运行。

面对OpenClaw这类颠覆性技术，企业既不能因噎废食，也不能盲目冒进。构建有效的风险防控体系，需要在技术、管理、制度、文化四个维度协同发力。

在技术层面，筑牢安全底线。沙箱隔离是底线要求，所有AI执行操作都应在受限环境中运行；遵循最小权限原则，按任务需要逐项开放能力而非全权委托；建立完整的操作日志和审计追踪，确保每一步AI操作都可回溯。企业级部署还应考虑本地化处理敏感数据，避免核心信息外流。OpenClaw的沙箱隔离机制是一个正确方向，但还需要更细粒度的权限控制和行为审计。

在管理层面，明确边界与流程。制定清晰的AI智能体使用规范，明确哪些任务可以自主执行、哪些必须人工审核；涉及敏感数据和关键业务的操作必须保留人工审核环节；建立AI决策的“熔断机制”，当系统检测到异常模式时自动暂停并告警。ClawHub需要建立严格的技能审核流程，引入类似VirusTotal的扫描机制和安全签名验证。

在制度层面，完善合规框架。针对AI自主执行可能引发的法律与合规问题，企业应提前制定应对预案；建立AI操作的保险与赔偿机制；在合同中明确AI参与工作的责任条款。正如专家所言，需要建立从人类到智能体再到行为的完整审计追踪，实现“意图分析—策略执行—及时访问—全程留痕”的治理闭环。

在文化层面，培育人机协作思维。技术终究是工具，人的判断力与创造力不可替代。企业应培养员工“AI素养”——既善用AI提升效率，又保持对AI输出的批判性审视；建立“人在回路”的协作模式，确保关键决策始终有人类参与。

OpenClaw的爆发式增长，本质上是技术演进与用户需求的一次共振。它满足了人们对“真正能干活的AI”的期待，也暴露了智能体时代治理体系的准备不足。从技术演进视角看，OpenClaw的崛起标志着AI从“云端助手”到“本地员工”的范式跃迁。传统智能体主要在封闭生态内通过API互联，数据依赖平台，无法直接触达用户的本地底层文件系统。而OpenClaw这类新型智能体通过授予OS级权限，实现了对物理设备和私有数据的直接支配。这种跃迁带来的不仅是效率提升，更是安全边界的重构。但也要清醒认识到，演示成功一次和稳定运行一万次是完全不同的概念。真实业务场景中的异常情况远比演示复杂。对于企业高频、高要求的特定任务，通用AI智能体框架虽然适用场景广泛、灵活度高，但Token消耗量较大，成本可能超出预期。

从更宏大的视角看，Open-Claw这类自主智能体的涌现，本质上是人类与技术关系的又一次重构。国外某大学社会学家指出，尽管这目前仍属于大规模的“人机协作”，但它反映了人类意图如何通过高度复杂的自动化系统进行转译，从而可能引发难以预测的社会影响。当AI能够自主执行越来越多任务时，人类的价值将体现在何处？或许，答案不在于与AI比拼执行力，而在于发挥人类独有的战略洞察、价值判断、创新思维和情感连接能力。OpenClaw是“万能钥匙”，但钥匙打开的门后，仍需人类决定走向何方。

（来源：人民邮电报）