米哈游 × 清华 GameScaling：实时对局里 9B 小模型赢了闭源大模型(arXiv)
模型 Qwen3.5 0.8B–27BMCU 成功率 (27B) 63.3% (claimed)训练配置 120 组
Why it matters
用受控实验检验游戏虚拟世界里「数据量 / 多样性 / 模型规模」继续预训练是否还成立，并给出小模型在实时对局中的结果。
Summary
米哈游与清华用 50–1600 小时游戏录像继续预训练 Qwen3.5（0.8B–27B），跑了 120 组配置、约 4.5 万 H200 GPU 小时；扩展数据、游戏和参数主要提升训练过或相近的游戏，27B 在 Minecraft 基准 MCU 平均成功率 63.3%，游戏不暂停时前沿模型表现大幅下降。
Key points
- 120 组配置：Qwen3.5 0.8B–27B，50–1600 小时录像，约 4.5 万 H200 GPU 小时
- 扩展数据与相近游戏主要提升训练过或相近的游戏；远域迁移有限
- 27B 在 Minecraft 基准 MCU 平均成功率 63.3%；游戏不暂停时前沿模型表现大幅下降（论文自报）
Details
- arXiv
- 2610.28698
- Companies
- miHoYo, Tsinghua University
- Models
- Qwen3.5
- Tags
- 研究论文游戏模型训练
Comments
Comments coming soon.