前沿 | 自甘风险规则在智能体安全责任中的适用

原创

王新雷 陈晶璇
王新雷 陈晶璇

中国信息安全

2026年10月23日 18:41
北京

去阅读

王新雷

文 | 西安交通大学法学院副教授 王新雷；西安交通大学法学院 陈晶璇

人工智能（AI）技术的迭代为社会治理带来了新的挑战。当AI智能体因极端场景或算法黑箱作出错误决策并造成损害时，对相关法律责任进行合理界定与划分非常重要。因此，建立一套既能鼓励技术创新，又能保障社会公众安全的责任分配体系，成为智能体安全治理的关键议题。本研究引入《中华人民共和国民法典》（以下简称《民法典》）中确定的并且在文义上属于类推借鉴而非直接适用的“对自愿者不构成不法”的自甘风险规则，借鉴其法理内核，尝试在AI研发者、专业部署者以及受害者之间构建一套风险共担模型，以期为我国AI产业的健康发展提出具有可操作性的制度建议。

一、

智能体的技术演进与侵权归责困境

从技术的升级到归责理念的变化，人工智能的广泛使用在法学视域下映射出三种递进的困境。

（一）智能体从客体工具到自主决策转变

传统的技术设备均属于遵循“输入—输出”指令的辅助工具，在本质上是人类意志的延伸。相比之下，AI智能体已成为具备独立行为能力的自主决策体，并展现出三大技术特性：自主性、适应性与不可预测性。自主性使其能自主感知环境并在无人类干预时执行任务；适应性赋予其数据驱动的演进能力，导致同类型应用终端在不同环境下产生决策分化；不可预测性则源于算法黑箱，使其最终的行为结果难以被研发者精准预判。这种从工具到决策者的身份转变，意味着技术系统正逐步分担甚至削弱人类的控制权。脱离了研发者控制的AI智能体，带来了法律上的不可预测性。

（二）传统过错责任面对算法黑箱时的现实困境

传统侵权救济依赖于对主观过错与因果关系的证明。按照传统归责思路，受害者索赔通常须证明对方存在主观疏忽或故意，且其行为与损害之间有直接因果关系。然而，面对AI智能体自主决策引发的损害，这两个规则要件在现实中几乎都难以实现。

首先，若研发者已履行法定基准合规，后续AI智能体因吸收新数据、自主进化而产生的算法变异，往往超出其编写代码时的可预见范围，难以认定其主观过错。其次，算法黑箱的不可解释性阻碍了受害者的举证。在司法实务中，由于难以区分系统损害是源于代码问题还是外部环境干扰，因果关系的判定往往会陷入死结，责任认定长期胶着。尽管算法变异或环境改变最终表现为智能体运行层面的偏差，但将其直接等同于研发者出厂时存在的产品缺陷并追究其主观过错，在法理上存在逻辑漏洞。传统侵权法上的产品缺陷，源于人类编写代码时的瑕疵或疏忽；而AI智能体吸收新数据后的自主进化则具有不可控性，其演进方向往往超出研发者编写初始代码时的可预见范围。这种技术上的不可控演进，切断了传统过错认定中的主观故意或过失关系链，从而无法直接认定研发者存在主观过错。这也构成了引入自甘风险规则进行动态风险分担的现实必要性。

（三）从“技术例外论”与“无限责任论”出发看对立归责逻辑

面对上述困境，治理政策易滑向两个极端。一种是“技术例外论”，该观点将AI智能体视为关乎核心竞争力的战略力量，为防止规则过严引发“寒蝉效应”而主张最大化责任豁免。但这忽视了公众安全，若任由风险扩散，将损害社会信任。另一种极端则是“无限责任论”，基于“获利者担责”的法理，认为研发者应对AI智能体出厂后的行为承担无限连带责任。然而，这看似有利于保护受害者，但社会成本过高。以自动驾驶为例，若要求企业对技术应用过程中产生的偶发事故承担无限责任，那么不可控的法律风险将抑制企业在相关技术领域的研发投入，阻碍技术进步。

二、

自甘风险规则在人工智能领域适用的可行性

为破解前文所述归责困境，治理政策应当从两极对立转向自甘风险规则下的风险共担。自甘风险规则要求人们承认高新科技存在固有风险，由主动部署、使用该技术并享受其红利的主体分担因技术不确定性所产生的损害责任。

（一）“自愿信赖”作为考量因素的重要性

自甘风险规则的法理基础是“对自愿者不构成不法”。传统理论中，该规则适用于参与者明知有风险仍自愿参与的场景，但由他人故意或重大过失引发风险的情形除外。在AI场景中，具备专业审查能力的部署者若明知系统受限于数据集而存在误诊等风险，仍为追求效率选择部署，即构成法律上的自甘风险。这一机制旨在重新分配技术的固有风险，不能作为开发者免除产品缺陷责任的合法事由。

从宏观角度看，法治的使命不是消灭风险，而是在技术创新与受害救济之间厘清合理的制度边界。通过引入自甘风险规则，可以将一部分由技术不确定性导致的偶发损害，视为社会享受科技进步红利所必须分摊的发展成本。据此，开发者与专业部署者作为不同的受益方，应当按照过错大小与自愿介入程度分担责任。需要注意的是，现行《民法典》第一千一百七十六条所确立的自甘风险规则，在文义上主要适用于文体活动领域。因此，将该规则的逻辑外延扩张至专业部署者的人工智能应用部署场景，本质上属于类推借鉴，而非直接的法条适用。本研究引入该条文并非直接适用原意，而是借鉴了自甘风险所蕴含的“自愿承担风险即对自愿者不构成不法”的法理内核，以确保论证逻辑的严密性与可辩护性。

（二）研发者和部署者层面

需要明确的是，本研究主张引入自甘风险规则以减轻或分担的责任，并不包括研发者或部署者违反国家强制性安全规范、行业底线标准或存在主观故意的违规责任。自甘风险所能分担和抗辩的，仅限于研发者已履行底线合规与充分警示义务后，AI智能体在动态运行中因不可预测的涌现行为或算法黑箱所引发的客观剩余风险。

当前，在全球人工智能治理体系中，典型监管框架（如《欧盟人工智能法案》与美国国家标准与技术研究院人工智能框架）的核心治理逻辑在于，明确研发者与部署者的责任边界。其中，研发者作为设计方，应提升AI智能体出厂时的系统鲁棒性与防投毒韧性，从源头上避免对抗性攻击或数据注入导致决策异化现象；而部署者作为控制方，其责任则聚焦于应用环节，须在理解系统技术局限与固有风险的基础上开展动态监测，防止AI智能体在运行中引发社会损害。为实现社会整体效益最大化，风险应由预防成本更低的一方承担。目前在AI智能体领域，研发者消除低概率的算法风险需付出巨大的预防成本，而作为实际控制方的专业部署者，能以更低的管理成本有效阻断风险。因此，在研发者履行底线合规与告知义务的前提下，由获益的部署者分担残留风险，更有利于实现社会整体效益最大化。

（三）受害者层面

自甘风险规则不得扩张适用于非自愿依赖AI智能体的第三方受害者。在法理上，受害者既缺乏知情前提与自愿选择，也无法像部署者那样通过干预AI智能体决策以规避风险。根据“报偿理论”，即获利者应同时承担为获取该利益所衍生的风险与责任，那么获取AI运营利润者就理应承担其危险。若将风险转嫁给既无决策权又无控制力的受害者，归责逻辑难以自洽。

三、

自甘风险规则在人工智能场景下的考量因素

为了防止自甘风险规则被滥用从而导致研发者不当免责，公共政策必须为自甘风险的适用设定严格的考量因素与认定条件。

（一）对技术潜在风险的“明知”与“理解”

自甘风险成立的前提是“知情”。在AI智能体语境下，研发者要严格履行说明义务。首先，研发者不仅要告知使用者系统可能出错，更要确保提示的有效性。其次，如果系统频繁发出冗余警告，导致部署者因心理麻木而忽视真实风险，法律不应认定部署者已经“明知”。研发者有义务确保监督的有效性，而非单纯依靠文字免责。

（二）部署者与受害者行为自愿性的区分

运用自甘风险规则应严格区分部署者与受害者。部署者具备技术理解能力，若在有传统替代方案时，出于提升竞争力或追求高利润的目的自愿部署AI智能体，即构成典型的自甘风险；但若因外部强制或市场垄断而被迫使用，则不应适用风险共担。受害者或普通终端用户因严重的技术信息不对称而处于被动状态，且缺乏评估算法风险的能力，不应承受转嫁的AI智能体决策风险。

（三）损害必须源于人工智能系统的固有风险

并非所有算法错误都能适用自甘风险，该规则仅限于当前技术无法克服的固有风险。例如，自动驾驶的光学识别延迟或大模型的幻觉。若损害源于算法投毒或底层编程错误等主观过错或人为因素，则属于《民法典》中的产品缺陷，研发者须承担全部责任，没有免责或转嫁的空间，亦不能运用自甘风险进行抗辩。

四、

针对智能体侵权责任的三元责任模型

基于前文所述认定条件，应当构建涵盖研发者、部署者与受害者的三元责任分配模型。

（一）研发者的底线合规与警示义务

研发者在责任体系中并非自始免责或毫无责任，其必须承担出厂前的底线合规义务、鲁棒性测试义务以及充分的警示、告知义务。只有当研发者已经履行了这些前置合规义务后，对于后续因部署者主动追求商业利益而投入动态场景所产生的偶发损害，才能通过自甘风险在研发者与部署者之间进行责任分摊。研发者的核心职责是坚守基础的合规义务，而非确保技术的“零误差”。其免责条件主要有两方面：一是证明AI智能体出厂时已通过国家强制性安全测试与算法备案，符合行业标准；二是告知部署者技术盲区。若研发者证明自身无主观故意且达到了该基准，则AI智能体后续因自主学习引发的未知损害，其责任应被合理分摊或免除，无需承担无限责任。

（二）部署者的监管义务和保障安全运行

作为AI智能体的控制者和获益者，部署者必须履行监管义务。例如，在医疗场景中，医生如果不加干预地全盘接受AI智能体的错误结论，属于未尽到二次预防义务。这种责任分配机制促使人类使用者保持必要的警觉状态。同时，部署者应配备合格的“安全检查员”或监控后台。当系统发出警告或运行偏离正常逻辑时，若因怠于值守未能及时采取终止运行或人工接管等干预措施，则部署者须对其监管过失承担相应的法律责任。

（三）针对受害者的严格责任

针对非自愿受害者，应适用严格责任或危险责任。当损害发生时，受害者无需证明算法存在缺陷，只需证明损害是由智能体的行为造成。在某些高风险场景下，严格责任比过失原则更能激励研发者和部署者采取最高标准的预防措施。此时，部署者不能以“我已尽到维护义务”或“这是算法的固有风险”为由对被侵权人进行抗辩。

为保障受害者权益，应构建以下责任闭环：一是外部追偿，由作为控制者与获益者的部署者承担第一顺位赔偿责任，此处不适用自甘风险规则；二是内部回追，允许部署者赔付后依合同向研发者追偿，但若研发者已充分披露风险且部署者“自甘”该风险，则追偿权受限，以此兼顾受害者救济与专业主体的契约自由。此外，鉴于AI智能体的不可预测性可能导致单一主体的赔付能力不足，应借鉴欧盟构建AI智能体侵权责任体系的归责逻辑，引入强制性的AI第三方责任险，确保受害者损害得到及时填补，并尽量规避其在举证环节遇到的种种阻碍。

（四）引入技术保险与社会救济基金

在极端场景下，也可能会出现以下问题：相关主体在穷尽技术合规义务后依然发生幻觉、数据事故等概率风险，在法律上应被界定为社会为了享受技术红利而必须容忍的“合法的危险”（合法剩余风险）。换言之，研发者已经履行了法定的基准合规义务，部署者在操作上也无从指摘，但由于AI智能体自主决策产生的算法变异依然造成了无辜的第三方重大财产损失或人身损害。此时，如果事后才在研发者和部署者之间寻求补偿方式，将会导致受害者难以得到及时的救济。为此，公共治理须引入公共财政与社会保障的托底机制。

一是推行“行业强制责任险”，即参照机动车交强险制度，强制要求所有将AI智能体投入商业运营的专业部署者和研发者按比例共同缴纳“人工智能安全责任保险”。一旦发生损害，由保险公司先行对受害者进行无过错的快速赔付。二是设立“国家技术创新救济基金”，即从高新AI智能体企业的税收以及数字经济专项财政中提取一定比例成立社会救济基金。对于超出保险理赔限额且双方均无过错的重大技术意外事件，由国家基金进行兜底救济。

五、

结 语

人工智能责任制度的建立，旨在构建一套平衡创新激励与公平救济的复合型治理结构，其使命是“护航科技创新、兼顾社会公平”。国家政策鼓励颠覆性创新，允许技术在合理的边界内探索未知，但前提是开发者必须透明合规，使用者必须审慎自担，社会整体必须有托底保障。通过科学适用《民法典》第一千一百七十六条自甘风险规则，可以在尊重意思自治的前提下为AI智能体的开发者提供一个合理的安全港。然而，自甘风险抗辩的成功适用往往意味着受害人的赔偿缺位。为此，应通过社会化分担，将自甘风险与强制责任险、政府补偿基金相结合。只有在法理上厘清技术不可预见性与人为风险承担的界限，我国的人工智能产业才能在健康、可持续的法治化轨道上行稳致远，从而真正迎来人机协同、安全共赢的全新发展格局。

（本文刊登于《中国信息安全》杂志2026年第9期）