文章总结： 乔治·霍茨警告AI编程智能体可能成为软件开发中代价最高的错误之一，指出其生成的代码表面完善但存在隐蔽缺陷，能力较弱的开发者易将问题代码带入正式系统，导致高昂维护成本和故障风险。他认为大语言模型本质是统计系统而非真正智能，无法稳定处理陌生情境的推理，与安德烈·卡帕西的积极态度形成对比。 综合评分： 72 文章分类： AI安全,安全建设,安全工具,技术标准,其他

【安全圈】“神奇小子”乔治 · 霍茨警告称 AI 编程智能体将成软件最大隐患

安全圈

2026年5月26日 19:00 江苏

在小说阅读器读本章

去阅读

关键词

AI编程

乔治 · 霍茨（George Hotz）于 5 月 24 日发布博文，指出在当代软件开发过程中，AI 编程智能体可能是代价最高的错误之一。

安全圈注：霍茨于 1989 年 10 月出生，人称 ” 神奇小子 “（geohot），是世界著名的黑客、安全研究员和创业者。

乔治 · 霍茨，图源：WikiMedia

他以早期破解 iPhone 和 PlayStation 3 闻名，是自动驾驶技术公司 Comma.ai 的创始人，以技术极客形象在编程和人工智能领域备受关注。

霍茨称，自己用 6 个月测试了多种模型和工具，还结合 tinygrad 相关工作，结论是它们适合快速原型，却不擅长处理决定质量的细节。

霍茨在博文中担忧大组织过度依赖 AI 工具，他指出 AI 模型可以快速产生代码，但是生成的代码表面越来越像样，问题却更难识别。

霍茨认为，能力较弱的开发者很难看穿这些缺陷，最终可能把有问题的代码带入正式系统，累积出高昂维护成本和隐蔽故障风险。

在技术判断上，霍茨已从早期乐观转向怀疑。他现在更接近杨立昆（Yann LeCun）和加里 · 马库斯的观点，大语言模型并不真正具备智能。

他认为这类模型本质上是复杂的统计系统，主要任务是模仿编程分布，而不是真正理解问题。正因如此，它们能模仿代码外形，却未必能稳定完成陌生情境下的推理与修正。

与霍茨相反，安德烈 · 卡帕西近来的态度明显转向积极。他曾在 2025 年秋天认为智能体系统不可靠，但在 GPT-5.4 和 Opus 4.6 发布后改口，称 AI 智能体已经永久改变编程方式。

END

阅读推荐

【安全圈】985博士为间谍偷拍涉密资料，被判15年

【安全圈】上海网警今年破获抢单外挂、私改计价器案15起，73人落网

【安全圈】已修复：微软 Win11 内核曝 7.8 高危漏洞

【安全圈】“DeepSeek崩了”再次登微博热搜

安全圈

←扫码关注我们

网罗圈内热点 专注网络安全

实时资讯一手掌握！

好看你就分享 有用就点个赞

支持「安全圈」就点个三连吧！

免责声明：

本文所载程序、技术方法仅面向合法合规的安全研究与教学场景，旨在提升网络安全防护能力，具有明确的技术研究属性。

任何单位或个人未经授权，将本文内容用于攻击、破坏等非法用途的，由此引发的全部法律责任、民事赔偿及连带责任，均由行为人独立承担，本站不承担任何连带责任。

本站内容均为技术交流与知识分享目的发布，若存在版权侵权或其他异议，请通过邮件联系处理，具体联系方式可点击页面上方的联系我。

本文转载自：安全圈 《【安全圈】“神奇小子”乔治 · 霍茨警告称 AI 编程智能体将成软件最大隐患》