Step 5 Preview 权重已放出:核验官方文件,还是选 API?
核对 Step 5 Preview 官方权重版本、28 个文件与 26 个索引分片的区别,理解部署条件并选择合适的访问路径。
Step 5 Preview BF16 的权重文件已经列在 StepFun 官方 Hugging Face 仓库中。2026 年 10 月 15 日,我们读取了仓库元数据、模型卡、配置、许可证和权重索引:仓库共有 28 个 safetensors 文件,主权重索引引用 26 个不同文件。两者统计对象不同,并不矛盾。
这是发布产物核验。我们没有下载全部权重、逐文件校验哈希、运行推理或进行性能测试。如果今天要使用模型,需要分别回答:官方文件是否已列出、现有基础设施能否运行所选格式、托管供应商是否向自己的账户开放。
固定版本后,我们核对了什么?
主要来源是 stepfun-ai/Step-5-Preview-BF16,固定 commit:
7734b7ffac118d70d8398bfa3eb0fab007eb45b1
仓库元数据记录更新时间为 2026-10-15T01:31:42Z。因此,搜索摘要里“等待 10 月 15 日发布”的文字可能已经落后于仓库。当前分支还会更新;固定版本是为了让本次检查能够复现。
| 产物 | 本次证据 | 不能据此证明 |
|---|---|---|
| 仓库元数据 | 列出 28 个 .safetensors 文件 | 每个文件均已成功下载并校验完整 |
| 主权重索引 | 引用 26 个不同文件,全部在清单中 | 完整加载或推理成功 |
| 配置 | Step5ForConditionalGeneration、文本 dtype 为 BF16 | 任意已安装运行时都兼容 |
| 模型卡与推理说明 | 固定版本已下载并阅读 | Ofox 自己完成了 GPU 验证 |
| 许可证 | 可读取 StepFun Model License 1.0 | 所有商业用途都无条件获准 |
索引的 metadata.total_size 是 1,208,684,168,984 字节,约为十进制 1.209 TB、二进制 1.099 TiB。这是索引中的张量规模,不是实际全量下载、完整磁盘需求或最低显存。额外文件、格式转换、临时副本、运行时缓冲与 KV cache 需要单独规划。
不下载上 TB 权重,也能先核对清单
下载 元数据检查脚本。它只用 Python 标准库,只请求小型仓库元数据和索引,不下载权重文件。
python3 step_metadata.py
脚本输出固定 commit、safetensors 文件数、索引引用的不同文件数、索引张量字节数及缺失文件列表。本版本预期是 28 个文件、26 个索引文件、1208684168984 字节,缺失列表为空。
结果不同就检查元数据,不要悄悄改用最新版本。HTTP 或 JSON 解析失败应停止核验。也可以直接查看 固定版本模型卡 和 权重索引。
脚本通过只说明索引和目录一致,不代表权重已全部下载、远程文件逐字节校验通过,或推理可运行。比较其他版本之前,保存本次输出与检查时间。
先选精度,再选硬件
官方模型卡链接 FP8 仓库 和本文检查的 BF16 仓库。按实际部署精度选择,不要混用不同版本的 tokenizer、配置、转换分片和权重。
模型卡描述总参数 600B、每 token 激活 27B。激活参数反映计算,并不代表只需要加载 27B 权重。把“激活 27B”直接当成存储或显存规模,会得出不可执行的部署方案。
| 权重格式 | 官方模型卡的起步布局示例 |
|---|---|
| FP8 | 4 × B300 或 8 × H200 |
| BF16 | 8 × B300,或两个节点共 16 × H200 |
这是厂商示例,不是 Ofox 测得的最低配置,也不保证能跑满宣传中的最大上下文。配置中的 1,048,576 位置上限属于模型能力设置;实际可服务的上下文还受可用显存、批大小与 KV cache 影响。
BF16 路径需要 BF16 checkpoint。加载 FP8 文件时添加 --dtype bfloat16,不会把文件转换成官方 BF16 权重。
开机器之前,先读运行时限制
模型卡给出 Step 5 专用 vLLM 镜像 vllm/vllm-openai:step-5-preview,并要求相关模型、解析器和推测解码功能支持。安装一个通用的“最新版”不代表这些组件一定齐全。
固定版本的 推理 README列出 torch>=2.10,<2.14、transformers>=4.57.6,<6、safetensors>=0.7,<1、triton>=3.6,<3.8 等兼容范围。CUDA PyTorch 还必须匹配宿主驱动。按实际部署构建核对,不要假设旧环境可用。
独立转换流程只分片并保留 dtype,不做 BF16→FP8 量化。文档中的张量并行与专家并行共用一个组,因此 TP8、EP8 不等于 64 张 GPU。转换后的权重、配置、tokenizer 必须相互匹配。
尤其要保留官方限制:完整 BF16 convert.py → generate.py --tp-dir 文件分片流程尚未完成端到端验证。推理文档另有官方双节点 BF16 流式权重整模型验证,但那条路径的证据不能抹去前一条限制。某个测试记录的内存分配,也不是所有上下文和运行时的统一显存门槛。
需要图像或视频时,还要核对 processor 和预处理输入要求。文本生成冒烟测试不能证明视觉预处理、OCR 或视频理解已通过验证。
权重、自托管接口和云 API 怎么选?
| 任务 | 下一步路径 | 应取得的验收证据 |
|---|---|---|
| 确认发布状态与许可证 | 官方仓库、小型元数据文件 | 固定版本及相符的文件清单 |
| 评估推理基础设施 | 选定权重与配套运行时说明 | 加载成功、已知任务输出、资源测量和错误日志 |
| 不托管权重,使用云服务 | 供应商当前模型和账户文档 | 精确 endpoint、model ID、权限、可对账用量 |
云端路径应查看官方 Step 5 Preview 模型文档。本文不提供未经核实的云请求,也不声称某个账户已能调用。自托管示例中的 step5 是本地服务别名,不能据此认定它就是官方云 API ID。
做托管评估前,记录供应商、endpoint、精确模型标识、地区与账户资格、价格来源和数据政策,再执行获授权的请求。随后核对 HTTP 状态、返回的模型信息、预期输出、usage 与账单。下载仓库,或成功调用另一个 Step 模型,都不能完成这些检查。本文未核实 Ofox 的 Step 5 路由。
自托管时,先完成产物和运行时检查,再运行文档中的小型冒烟测试。端口监听成功不等于模型输出正确。失败后先保留精确版本、dtype、运行时构建、并行布局及首个加载错误,不要同时改多个变量。
读实际许可证,不只看“开放权重”
查看固定版本 LICENSE.txt。文件是 StepFun Model License 1.0,不是不附加条件的 Apache-2.0。模型卡虽然使用 Apache 风格表述,许可证仍有额外归属和商业条件,特定业务情形需要另行许可。
不要把“开放权重”翻译成“无条件商用”。将许可证版本与部署评估一起保存,由相应负责人按真实用途核对条款。
读完应能辨认官方权重和版本、复现目录与索引计数的区别、选定匹配的精度与运行时路径,并列出尚未完成的部署或账户检查。性能排名和真实部署结论需要后续证据,文件已经列出本身不能回答这些问题。


