这条 2025 年的 vLLM 求助,把部署配置和请求体放在了一起。具体细节比“输出不完整”这句描述更值得看。
shaojun0 的环境是单张 4090、vLLM 0.8.0、PyTorch 2.6.0、transformers 4.51.3,模型路径指向 Seed-X-PPO-7B。启动配置中,作者把 max_model_len 设为 4096;请求 JSON 里写的是 "max_token": 4096。注意,这里是在摘录原请求,不是推荐请求写法。
楼中的 RunLLM 回复把字段拼写和上下文预算列为解释,页面将它标为解决方案,原作者随后致谢。可是,在已读记录里,没有看到作者修改后的完整请求及对应输出,也没有重跑前后的日志。
所以,这一案可以保留的结论是:原请求确实出现了这个字段,页面也确实接受了一条回答;不能仅凭机器人回答,就认定已经验证了截断的唯一根因。
如果要把它整理成今天可直接照做的修复教程,下一步应对照当时 API 定义,并补修改前后的对照响应。当前先作为“请求字段与服务配置要一起审查”的历史案例保存。