本文解析SGLang调度器核心决策逻辑,包括Token预算的三个维度(rem_total_tokens、rem_chunk_tokens、rem_input_tokens)、PrefillAdder的请求准入控制与AddReqResult枚举、ChunkedPrefill将长prompt切块以降低短请求TTFT的机制、extend\\_range精确控制计算范围、Decode阶段批量打包、请求结束与KVCache释放,以及fcfs/lpm/dfs-weight等调度策略的适用场景。
网络安全文章














