员工正偷偷打造AI智能体，企业失控风险正在逼近
原创
Grant
Grant
信息安全D1net
2026年10月9日 17:02
北京
在小说阅读器读本章
去阅读
在公众号小说中沉浸阅读
点击上方“蓝色字体”，选择 “设为星标”
关键讯息，D1时间送达！
企业网D1net
一项调查显示，约四分之一的自建智能体曾被迫停用，7%的知识工作者甚至不得不终止失控的智能体。从擅自调用API到越权访问敏感数据，效率革命背后暗藏安全与合规风险，但一禁了之并非出路，企业如何在守住安全底线的同时，释放员工的创新潜力？答案在于建立清晰的权限边界、可控的试验环境和持续监控机制，让AI创新既跑得快，也不失控。
业务用户能够为AI应用场景带来新的视角，但有7%的人表示，他们创建的智能体已经失控，以下是这一趋势日益兴起的背景，以及如何提前防范相关风险。
为了尽快将智能体AI融入工作，员工们开始主动采取行动，不顾企业是否批准，自行创建AI智能体，其中相当一部分智能体可能造成灾难性后果，IT领导者必须未雨绸缪，及时应对这一趋势。
根据工程技术人才招聘公司Howdy.com最近开展的一项调查，在使用AI的知识工作者中，三分之二也在使用智能体，其中16%已经开始自行构建智能体。
然而，大约四分之一的智能体用户曾不得不停用自己创建的智能体，主要原因是智能体的输出不一致，或者根本无法正常工作，但有7%的知识工作者不得不终止那些已经失控的智能体。
这些调查结果凸显了影子智能体开发可能带来的潜在后果，甚至表明，即使是经过批准、鼓励业务用户自行构建智能体的公民AI战略，也同样存在风险。
尽管这项调查并未询问自行构建智能体的员工是否是在未经批准的情况下行事，但Howdy.com创始人Frank Licea认为，许多人并没有等待许可。
他说：“在我们的内部团队中，我们不得不要求大家暂缓行动，但这并不意味着要踩下刹车。在员工开始一头扎进去、自行构建智能体之前，我们必须先建立防护措施和系统使用指南，确保大家能够安全地开展这项工作。”
根据Licea的观察，员工们热衷于通过构建自己的智能体，将枯燥的手动任务自动化，他说：“这类行为大多一开始都未经批准，因为任何企业里都有一些对技术充满热情、天生喜欢探索的人，他们甚至可以说是聪明地偷懒——他们希望把自己的工作自动化。”
Licea表示，近几个月来，Howdy.com的员工开始相互分享自己如何实现手动任务自动化，而没有等待公司的IT团队批准这些用途。
他说：“事情在我们公司是这样开始的：员工兴高采烈地跑来找我们，分享他们刚刚自动化完成的工作，或者解决了一个长期存在的问题，而这个问题甚至从未被工程团队列入开发计划。一旦这种情况开始出现，技术团队的人就会介入，并开始提出一些问题，比如：‘这里涉及哪些API密钥？你们是否在访问加密数据？这会带来哪些SOC2合规影响？’”
谨慎接纳
软件工程服务提供商Sngular的产品工程副总裁Luis Mesas认为，员工尝试构建AI智能体来自动化自己的工作是不可避免的。
他说：“无论公司是否正式批准，员工都会创建自己的智能体，因为构建这类工具的门槛正在不断降低，而工程团队已经被要求以更少的资源完成更多工作。对我而言，更大的隐患并不是员工创建了一个智能体，而是当这个智能体开始连接公司的系统和数据时，却没有受到通常适用于软件的同等管控。”
他表示，IT领导者需要了解员工自行创建的智能体如何连接内部系统和数据，他补充说，如果员工创建的智能体能够从CRM中提取客户信息、更新记录，或者在不同系统之间传输信息，IT领导者就应该知晓这些行为。
Mesas说：“我希望确切了解这个智能体能够访问哪些内容，以及员工本身是否应该拥有如此高的访问权限，这就是原本用于提升个人工作效率的工具，如何演变成企业技术治理问题的关键所在。”
B2B商务平台提供商AppDirect的首席技术官Andy Sen认为，企业应该鼓励员工构建智能体，但前提是必须设置明确的防护措施，并制定既定政策。
他说：“员工几乎肯定正在创建自己的智能体，认为事实并非如此是很天真的想法。影子IT一直存在，而影子智能体不过是它的最新表现形式。”
不过，他表示，解决问题的办法并不是全面收紧限制。在AppDirect，Sen为员工提供了一个“适当的数字试验场”。为了响应员工的需求，他的团队还开发了一项由AI驱动的编程服务，名为Devs.AI。
他补充说：“我们开发Devs.AI，是为了让员工能够自由构建和创新，同时确保IT部门能够全面掌握使用情况和相关成本，并且有把握确认公司数据不会泄露到外部世界。”
AppDirect采用的这类公民AI战略正日益普及，但需要持续、稳定的监控。Sen表示，例如，如果四分之一的员工自建智能体最终被停用，IT领导者就应该对此予以关注。
他补充说：“失败并从中吸取教训是可以接受的，但悄无声息地失败则不可接受。在小问题演变成严重问题之前，你必须能够了解自己的智能体正在做什么。”
尽管如此，Sen对少数员工自建智能体出现失控情况的说法持怀疑态度。
他说：“当一个智能体失控时，通常意味着它完全按照指令行事，只不过收到的指令本身就是错误的。责任在创建者，而不在智能体。”
为好想法铺平道路
敏捷方法论供应商Scaled Agile的首席方法论专家Andrew Sales也认为，大量智能体被停用，是向IT领导者发出的一个强烈信号，表明他们需要深入调查。
他说：“当智能体在缺乏正式开发框架的情况下被快速构建时，通常不会明确界定它们可以执行哪些操作、能够访问哪些数据，以及何时需要人工介入，因此，一些智能体不得不被关闭，也就不足为奇了。”
Sales指出，AI治理固然重要，但不应只关注如何防止不良后果。
他解释说：“AI治理还应该为好想法铺平道路，让它们从个人试验转化为企业级能力。企业需要建立一套机制，用于识别哪些做法行之有效，将其标准化、确保其安全，并以负责任的方式在各个团队中推广。如果这套框架设计得当，那么它既能及时发现出现问题的智能体，也能帮助那些运行良好的智能体推广开来。”
版权声明：本文为企业网D1net编译，转载需在文章开头注明出处为：企业网D1net，如果不注明出处，企业网D1net将保留追究其法律责任的权利。封面图片来源于摄图网
（来源：企业网D1net）
关于企业网D1net(www.d1net.com)
企业网(D1net.com)-企业 IT 第 1 门户。面向 IT 行业高端甲方人群(CIO 首席信息官)最精准专业的媒体，面向约六万政企 CIO、信息中心主任、科技部总经理等 IT 主管，提供资讯、营销、活动、项目合作推介等服务。拥有专业注册会员(IT 从业者)约 188万人，主要读者为政企用户及其信息主管、软硬件厂商等，服务过的企业级厂商逾五百家，国内toB的头部IT厂商基本都是D1net的客户。
同时，企业网D1net也运营着国内最大的CIO(首席信息官)专家智库和智力输出变现及社交平台-信众智，也是国内最大的科技高管社交平台。旗下运营19个IT行业公众号(微信搜索D1net即可关注)。
如果您在企业IT、网络、通信行业的某一领域工作，并希望分享观点，欢迎给企业网D1net投稿。
投稿邮箱：
合作电话：
010-58221588（北京公司）
021-51701588（上海公司）
合作邮箱：
企业网D1net旗下信众智是CIO（首席信息官）的专家库和智力输出及资源分享平台，有六万多CIO专家，也是目前较大的CIO社交平台。
信众智对接CIO为CIO服务，提供数字化升级转型方面的咨询、培训、需求对接等落地实战的服务。也是国内较早的toB共享经济平台。同时提供猎头，选型点评，IT部门业绩宣传等服务。
扫描 “二维码” 可以查看更多详情
版权声明
本站仅做备份收录，仅供研究与教学参考之用。
读者将信息用于其他用途的，全部法律及连带责任由读者自行承担，本站不承担任何责任。
评论