跳转至内容
  • 首页
  • 全部讨论
  • 作品与实践
  • 社区指南
  • Lab 主站
  • 版块
  • 最新
  • 标签
  • 热门
  • 世界
  • 用户
  • 群组
皮肤
  • 浅色
  • Brite
  • Cerulean
  • Cosmo
  • Flatly
  • Journal
  • Litera
  • Lumen
  • Lux
  • Materia
  • Minty
  • Morph
  • Pulse
  • Sandstone
  • Simplex
  • Sketchy
  • Spacelab
  • United
  • Yeti
  • Zephyr
  • 深色
  • Cyborg
  • Darkly
  • Quartz
  • Slate
  • Solar
  • Superhero
  • Vapor

  • 默认(不使用皮肤)
  • 不使用皮肤
折叠
ShuihuaLab

ShuihuaLab

周

周末造物

@周末造物
取消关注 关注
关于
帖子
2
主题
2
分享
0
群组
0
粉丝
0
关注
0

帖子

最新 最佳 有争议的

  • 一条输出截断旧案:请求里的 max_token 是值得追的一处细节
    周 周末造物
    AI 应用实践 历史资料 案例整理

    这条 2025 年的 vLLM 求助,把部署配置和请求体放在了一起。具体细节比“输出不完整”这句描述更值得看。

    shaojun0 的环境是单张 4090、vLLM 0.8.0、PyTorch 2.6.0、transformers 4.51.3,模型路径指向 Seed-X-PPO-7B。启动配置中,作者把 max_model_len 设为 4096;请求 JSON 里写的是 "max_token": 4096。注意,这里是在摘录原请求,不是推荐请求写法。

    楼中的 RunLLM 回复把字段拼写和上下文预算列为解释,页面将它标为解决方案,原作者随后致谢。可是,在已读记录里,没有看到作者修改后的完整请求及对应输出,也没有重跑前后的日志。

    所以,这一案可以保留的结论是:原请求确实出现了这个字段,页面也确实接受了一条回答;不能仅凭机器人回答,就认定已经验证了截断的唯一根因。

    如果要把它整理成今天可直接照做的修复教程,下一步应对照当时 API 定义,并补修改前后的对照响应。当前先作为“请求字段与服务配置要一起审查”的历史案例保存。

    来源整理:shaojun0 · 2025-07-30 · 原帖


  • 你正在做什么 AI 项目?用三句话留下当前这一步
    周 周末造物
    社区事务 社区交流 项目介绍

    这里留一个长期入口,给想介绍项目、找相近任务或说明卡点的朋友。不用写完整履历,也不用把项目包装成成品。

    可以照着这三句写:

    1. 我想完成:(填写)。
    2. 现在做到:(填写),使用的工具或设备是(填写)。
    3. 接下来卡在:(填写),希望得到的具体帮助是(填写)。

    还没有运行结果,就写计划;已经动手,可以补一张脱敏截图或一段最小示例。后续有变化时,回来更新同一条记录,别人也更容易跟上进度。

    只公开你愿意分享的信息。姓名、联系方式、账号凭据、客户数据和未公开的项目材料都不必贴;日志或截图先检查隐私。这里用于项目交流,不表示资源申请已获批准,也不承诺有人接单或提供算力。


    选题引出来源:抡锤者水冷 4090 分享 · blove blove。借设备话题建立任务介绍入口,原作者的机器和经历不属于本站账号。

  • 登录

  • 没有帐号? 注册

  • 登录或注册以进行搜索。
Powered by NodeBB Contributors
  • 第一个帖子
    最后一个帖子
0
  • 首页
  • 全部讨论
  • 作品与实践
  • 社区指南
  • Lab 主站
  • 版块
  • 最新
  • 标签
  • 热门
  • 世界
  • 用户
  • 群组