文章总结： 本文探讨深度伪造技术对企业安全的威胁，以Arup公司2500万美元诈骗案为例，说明AI伪造高管身份进行欺诈的严重性。文章重点介绍美国NOFAKES法案，该法案赋予个人对其数字克隆的专有权，并规定高额赔偿。文章为CISO提供防范建议，包括构建安全文化、实施多层防护、建立合规机制和重构信任体系，强调保持怀疑是最后防线。 综合评分： 85 文章分类： 社会工程学,政策法规,安全运营,安全意识,解决方案

眼见不为实，耳听不为凭——一部美国法案正在重写AI时代的企业安全规则

安全牛

2026年7月13日 13:34 北京

在小说阅读器读本章

去阅读

点击蓝字 关注我们

深夜十一点，手机震动。屏幕上跳出熟悉的名字——你的直属上级。电话接通，声音一如既往，语气急切，说公司正面临一笔紧急的资金缺口，需要你明天一早完成一笔海外汇款，金额不小，流程要保密。你记下账号，挂断电话，准备执行。

第二天，你发现上级正在另一个城市出差，对这笔汇款一无所知。

钱，已经不见了。

这不是悬疑小说的开头，而是真实发生在全球企业中的惨剧——而且，它正以越来越快的速度蔓延。

一、当深度伪造找上企业：从娱乐噩梦到商业威胁

很长一段时间里，”深度伪造”（Deepfake）在大众认知中不过是娱乐圈的麻烦事。好莱坞明星被合成进奇怪的视频，政客的嘴被AI”借用”说出从未说过的话——荒诞、令人不安，但似乎与普通人的生活隔了一层玻璃。

然而技术的演化从不考虑人的舒适区。

2024年，全球知名工程公司Arup发生了一起令整个安全行业震惊的事件：公司一名员工参加了一场视频会议，与他面对面”交谈”的，是包括CFO在内的多名高管。会议气氛紧张，指令明确。员工按照指示，将2500万美元汇入了犯罪分子的账户。

会议结束后，他才发现：那些与他”共处一室”的高管，全都是AI合成的深度伪造形象。

没有一个真人在场。

这个案例的可怖之处不在于金额之大，而在于它揭示出一个令人不安的事实：我们曾经最信赖的感官——亲眼所见、亲耳所闻——正在成为攻击者最锋利的武器。

Omdia分析师Theresa Lanowitz的判断异常清醒：”现在的深度伪造比过去逼真得多，而且入门门槛极低。”只需几秒钟的真实音频，AI便能以惊人的精度复刻一个人的声音；只需少量照片，便能生成栩栩如生的动态影像。McAfee的研究报告更是给出了一个让人心惊的数字：美国人每天平均遭遇2.6次深度伪造攻击。

对于企业而言，这意味着什么？

意味着你精心设计的财务审批流程，可能因为一段伪造的语音指令而形同虚设；意味着你的CEO从未开过那个视频会议，却”亲自”下达了那道毁灭性的指令；意味着内部控制体系中每一个依赖”人脸识别”和”声音确认”的环节，都悄然暴露在风险的炮口之下。

Accenture分析师Vikram Desai的话值得每一位安全负责人反复咀嚼：”深度伪造可以欺骗任何人，所以保持警惕是每个人的责任。虚假的语音和视频越来越频繁地被用来冒充高管、授权欺诈性交易，这对全球企业产生了重大影响。”

二、NO FAKES法案：数字身份时代的权利宣言

就在深度伪造攻击以肉眼可见的速度蔓延之际，立法的齿轮也在加速转动。

本周，美国参议院司法委员会全票通过了《NO FAKES法案》。这个名字背后是一个完整的政策宣言——Nurture Originals, Foster Art and Keep Entertainment Safe Act，直译为”培育原创、促进艺术、保障娱乐安全法案”。

这项立法由众议员Maria Salazar与Madeleine Dean联合提出，参议员Marsha Blackburn与Chris Coons在参议院同步推进，罕见地实现了跨党派的高度共识。支持者名单同样令人瞩目：劳工联合会AFL-CIO、IBM、OpenAI、YouTube、演员工会SAG-AFTRA、美国医学会……几乎覆盖了社会的每一个重要板块。

这份名单本身，就是一个信号：没有人能置身事外。

法案的四把利剑

其一，个人数字克隆专有权。 每一个公民，对自己AI生成的数字复制品拥有近乎排他性的控制权。未经明确授权，任何人不得使用你的形象、声音和肖像。这份权利在个人去世后，将延续至少七十年，由继承人和遗产管理人代为行使。

其二，授权使用与合同期限。 成年人每次授权合同的期限为十年，未成年人为五年。这一条款既为商业应用保留了弹性空间，也斩断了终身绑定式霸王条款的可能。

其三，违法赔偿机制。 每次未经授权使用AI生成图像的违规行为，法定赔偿金最高可达75万美元。更值得关注的是，法案不仅追究内容生产者的责任——托管未经授权复制品的平台，同样可能承担连带责任。

其四，企业责任的新疆界。 这或许是对企业影响最为深远的条款：若员工或工具在业务流程中使用了未经授权的数字复制品，企业将面临高额罚款。这意味着合规义务从个人延伸到了组织，从边缘延伸到了核心。

正如众议员Salazar所言：”今天的全票通过是向前迈出的重要一步。美国人理应知道，他们的形象、声音和肖像不会被盗用或未经许可被使用。AI发展迅速，令人兴奋。但没有人应该担心自己的面孔或声音会被复制、操纵，或用来欺骗他人。”

三、CISO的紧急课题：法律与安全的交汇点

对于首席信息安全官（CISO）而言，NO FAKES法案的推进绝不只是一则新闻，而是一记震耳欲聋的警钟。

公众人物与企业高管的边界，正在模糊。

法案的初衷是保护公众人物，但现实中，企业CEO、CFO乃至整个高管团队，早已因频繁的公开曝光而成为”准公众人物”。他们在财经媒体的访谈视频、公司年会的演讲录像、各类会议的出席记录——这些散落在互联网各处的数字素材，恰恰构成了深度伪造所需的”数据燃料”。

一旦高管的数字克隆被用于欺诈，这不仅是一个法律问题，更是一起实实在在落在CISO肩头的安全事件。

第一层：防范深度伪造攻击

Omdia分析师Lanowitz为安全团队开出了五条处方：

构建注重安全的组织文化。 安全不能只是一个部门的事，它必须成为每个员工的日常意识。这需要领导层的真正重视，而非口头宣示。

持续更新威胁认知培训。 让员工学会识别深度伪造的蛛丝马迹——视频中不自然的眨眼频率，音频里细微的背景噪声，光影打在面部的不对称感，甚至人物开口时嘴唇与语音节奏的轻微错位。这些细节，在高压下容易被忽视，但经过训练，可以成为最有效的预警信号。

实施多层防护措施。多因素认证（MFA）、带外身份验证、实时检测工具——这些不是可选项，而是基础设施。任何单一的验证手段，在深度伪造面前都是脆弱的。

拥抱新兴的生物特征与加密技术。 借助行为生物特征分析（打字节奏、鼠标移动模式）和内容来源加密技术，为数字媒体建立可追溯的真实性证明。

与外部专家建立协作机制。深度伪造攻击属于高度专业化的社会工程学手段，内部团队的视角往往存在盲区。引入第三方专家，定期进行红队演练，才能真正检验防线的韧性。

第二层：合规与责任重塑

NO FAKES一旦正式立法，企业将面临全新的合规生态。内部通讯平台、客户服务工具、市场营销材料——凡是可能涉及AI生成人物形象的场景，都必须建立清晰的授权证明链。

这意味着需要提前规划：梳理现有内容生产流程，逐一核查AI工具的使用场景，确保所有生成内容具备完整的授权文件；建立涉及高管形象使用的专项审批机制；对第三方供应商提供的AI内容，设立独立的核查节点，不以”外包”为由推卸责任。

第三层：风险管理与应急预案

深度伪造造成的经济损失，往往超出传统网络安全保险的覆盖范围。CISO需要与风险管理团队和法务部门协作，评估现有保单是否包含AI伪造欺诈条款，并在必要时重新定义风险敞口策略。

更重要的是，提前制定专项应急预案：当高管身份被冒充，内部如何在最短时间内识别并确认？如何启动公告机制，防止谣言蔓延？法律追索程序如何在第一时间激活？

这些问题，绝不能等到事件发生后才开始思考。

四、”眼见为实”已成过去式：我们需要新的信任体系

人类演化了数百万年的感知系统，从未遭遇过如此精准的挑战。

视觉和听觉，曾经是我们判断真实性的最后防线。而现在，这道防线正在被AI系统性地突破。

Accenture的Desai说得直接：”董事会必须在公司内部实施强有力的验证控制，以防止深度伪造影响运营。”这不是技术建议，而是生存忠告。

企业需要从根本上重构内部信任模型，建立一套不依赖感官判断、基于密码学验证的多层次体系：

双重渠道验证原则。任何涉及资金转移、敏感数据分享、重大决策的指令，必须通过至少两个相互独立的渠道完成确认——邮件加电话回拨，或内部即时通讯加线下口头确认。单一渠道的指令，一律视为存疑。

高管数字签名机制。 正式指令必须附上不可伪造的加密签名，以密码学手段取代人工辨认。这在技术上并不复杂，但需要组织层面的决心和推动。

实时深度伪造检测集成。 在视频会议系统中部署AI检测工具，实时分析画面中的生物特征异常，自动标记可疑信号。这类工具已经在市场上逐渐成熟，接入成本正在快速下降。

这些措施听起来繁琐，但当一次成功的深度伪造攻击可能让企业损失数百万乃至数千万美元时，任何成本都是值得的——而且往往是微不足道的。

五、从法案到行动：安全领导者必须走在前面

截至本文撰写时，NO FAKES法案已通过参议院司法委员会，正等待提交参议院全体表决。跨党派的广泛支持与重量级机构的背书，意味着它成为美国首部全面数字身份权利联邦法律，只是时间问题。

对于网络安全从业者而言，无论身处何地，这都是一个值得认真研究的立法样本。人工智能伪造带来的企业风险具有全球性，没有哪个市场能够幸免。

欧洲的《AI法案》、美国的NO FAKES法案、中国的《深度合成管理规定》……各国都在以自己的方式回应这个时代的根本性命题。

等待法律落地才开始行动，已经太晚。

今天，安全领导者就可以启动三件事：

开展深度伪造风险评估。识别组织内部最易遭受AI伪造攻击的环节——财务审批、高管通讯、客户身份认证。逐一评估薄弱点，制定针对性的加固方案。不要假设威胁距离自己很远。

建立高管数字保护机制。与公关和品牌部门协作，系统梳理高管在公开渠道的音视频数据，评估现有素材的可获取程度，研究限制高质量素材传播的可行性。同时，考虑为高管层建立”数字声纹签名”机制，每次对外发布的重要内容均附加可验证的来源证明。

推动公司文化的根本性转变。向董事会和CEO阐明深度伪造威胁的真实量级，争取资源建立系统性的安全流程。让”不轻信单一来源”成为组织的黄金法则，让验证习惯融入每一个关键决策节点。

结语

AI正如潮水般涌来，带来了无限的创造可能，也带来了从未有过的欺骗手段。NO FAKES法案是这个时代的一道屏障——虽然只是一道法律的屏障，但它代表着人类在技术洪流中守住底线的集体决心。

对于每一位身处安全一线的守护者而言，法律是武器，但更重要的，永远是意识。

当你听到熟悉的声音在电话那头催促，当你在视频会议里看见熟悉的面孔，不妨在按下确认键之前，多停留一秒：这声音，真的是他本人吗？

在这个真假难辨的数字世界里，保持怀疑，是我们最后也是最坚实的防线。

相关阅读

AIGC 合规大考：企业如何低成本搞定全场景安全？

重磅发布|安全牛《AI生成内容安全及风险管理技术应用指南》

《AI时代深度伪造和合成媒体的安全威胁与对策（2024版）》报告发布

联系我们

合作电话：18610811242

合作微信：aqniu001

联系邮箱：[email protected]

免责声明：

本文所载程序、技术方法仅面向合法合规的安全研究与教学场景，旨在提升网络安全防护能力，具有明确的技术研究属性。

任何单位或个人未经授权，将本文内容用于攻击、破坏等非法用途的，由此引发的全部法律责任、民事赔偿及连带责任，均由行为人独立承担，本站不承担任何连带责任。

本站内容均为技术交流与知识分享目的发布，若存在版权侵权或其他异议，请通过邮件联系处理，具体联系方式可点击页面上方的联系我。

本文转载自：安全牛 《眼见不为实，耳听不为凭——一部美国法案正在重写AI时代的企业安全规则》