文章总结： 本文分析大模型直接生成可执行二进制程序的能力来源，核心在于训练期学到的意图到汇编到机器码映射与推理期高精度长序列输出，两者缺一不可。2026年9月GPT-6Astra不经编译器直接生成WindowsPE文件实验成功验证此能力。真正瓶颈是长序列一致性，模型需在长输出中保持零容错，本质是知识压缩与无损再现的权衡。 综合评分： 82 文章分类： AI安全,二进制安全,安全开发

关于大模型直接生成可运行二进制程序的一些学习

原创

Asuka Asuka

ShowMeFlag

2026年9月11日 10:59 浙江

在小说阅读器读本章

去阅读

在公众号小说中沉浸阅读

一句话结论

大模型直接输出可执行二进制，靠的是预训练期学到的「意图→汇编→机器码」映射，加上推理期的高精度长序列输出。难点不在智能，在精度。两个能力相互独立，缺一个都跑不通。

事实基础

2026年9月，tombkeeper 让 GPT-6 Astra 不经编译器直接生成 Windows PE 文件

4 个实验全部成功，弹 MessageBox、列举进程、注入窗口消息、启动计算器

关键细节，AI 一开始自发用 Python 写简易汇编器当中间工具，被禁止后仍能直接输出十六进制，且能跑

本质判断

和翻译对比翻译是横向映射，二进制生成是纵向降维。

| | | | | — | — | — | | 维度 | 翻译 | 二进制生成 | | 层级 | 同语义层 | 跨抽象层 | | 信息量 | 基本不变 | 逐层坍缩 | | 对应关系 | 一词对一词 | 一意图对无穷实现，一实现对唯一字节 |

意图是模糊高维的，一个弹消息框可以有无数汇编写法

汇编是精确的，但一个写法编码出来只有唯一机器码

模型做的事和编译器核心工作一致，从无限可能中选一个合法实现

两种路径都存在，显式路径是意图→汇编→工具编译→二进制，隐式路径是意图→直接输出字节，汇编步骤被内化

难度拆解

| | | | | — | — | — | | 环节 | 智能要求 | 精度要求 | | 意图→汇编 | 中 | 中 | | 汇编→机器码 | 低 | 极高 | | PE 格式框架 | 低 | 高 | | 长序列一致性 | 低 | 极高 |

汇编到机器码是查表级确定性，push 0 就是 6A 00，不需要推理

真正的瓶颈是长序列一致性，模型天然在长输出中漂移，二进制不允许任何漂移

这个实验的定位，验证的是生成精度，推理能力只占次要位置

与 3D 打印的对照

相通点

层级结构相似，设计意图→CAD→G-code→实物，对应意图→汇编→机器码→可执行文件

中间表示是检查点，CAD 和源代码都能人工复核，直接跳过后失去定位问题的抓手

支撑结构，3D 打印悬空要加支撑，PE 的 DOS 头、节表、导入表也是同样角色，没有它们程序加载不了

约束条件，材料特性决定打印成败，架构特性决定编码方式，x86 和 ARM 的指令集、32 位和 64 位的调用约定都不同

差异在最后：

3D 打印的 G-code 由物理机器执行，机器不会中途走神

AI 生成二进制时，生成器和执行器是同一个系统，没有外部编译器兜底，全程靠自身维持一致性

能力来源拆解

两个独立能力，缺一不可。

知识压缩（训练期完成）

参数规模就是存储容量，知识点在小模型里被压扁成模糊记忆，大模型里可以精确存放

语料纯度决定压缩精度，反汇编输出、hexdump、PE 规范、CTF writeup 这类精确配对文本越多，学到的映射越准

去重很重要，重复语料会让模型把高概率模式误当成正确模式

自回归训练目标本身就是数据压缩器，最小化预测损失等价于最大化压缩率

无损再现（推理期完成）

位置编码和 KV Cache 工程化，解决长输出中前面字节被稀释的问题

训练中的完美配对压力，反复看到同一指令对应同一字节，偏差被惩罚，映射被焊进强关联权重

推理策略兜底，多次采样取一致、生成后用解析器验证、分块生成

CoT 的实质，错误概率随输出长度指数增长，把一个 1000 字节输出拆成多个短段，每段错误率显著下降

成本权衡

训练期是买语料加算力的一次性投入，把知识压进权重

推理期是每次生成的持续成本，token 消耗随输出长度陡增

业界倾向，能训练期解决的就不留给推理期，GPT-6 直接输出二进制，相当于把编译器成本前置压进了权重

未解问题

模型直接输出 hex 时，内部是否真的走过汇编中间表示，目前无法直接观测

如果走过，说明它真正理解了编译过程

如果没走过，说明它是端到端的意图到字节映射，抽象方式与人类工程师不同

现有工具无法检查模型内部推理路径，这个问题暂时无解

关键词速记

纵向降维，信息坍缩，零容错，长序列一致性，压缩与再现，训练期推理期权衡。

最后一句

精密压缩加无损还原同时达标的那一刻，系统的能力边界会比想象中宽很多，二进制程序只是第一个例子

免责声明：

本文所载程序、技术方法仅面向合法合规的安全研究与教学场景，旨在提升网络安全防护能力，具有明确的技术研究属性。

任何单位或个人未经授权，将本文内容用于攻击、破坏等非法用途的，由此引发的全部法律责任、民事赔偿及连带责任，均由行为人独立承担，本站不承担任何连带责任。

本站内容均为技术交流与知识分享目的发布，若存在版权侵权或其他异议，请通过邮件联系处理，具体联系方式可点击页面上方的联系我。

本文转载自：ShowMeFlag Asuka Asuka《关于大模型直接生成可运行二进制程序的一些学习》