Step 5 Preview 权重已放出:核验官方文件,还是选 API?

核对 Step 5 Preview 官方权重版本、28 个文件与 26 个索引分片的区别,理解部署条件并选择合适的访问路径。

奶油色卡片上的黑色线稿纸飞机,表示模型产物发布与访问路径。

Step 5 Preview BF16 的权重文件已经列在 StepFun 官方 Hugging Face 仓库中。2026 年 10 月 15 日,我们读取了仓库元数据、模型卡、配置、许可证和权重索引:仓库共有 28 个 safetensors 文件,主权重索引引用 26 个不同文件。两者统计对象不同,并不矛盾。

这是发布产物核验。我们没有下载全部权重、逐文件校验哈希、运行推理或进行性能测试。如果今天要使用模型,需要分别回答:官方文件是否已列出、现有基础设施能否运行所选格式、托管供应商是否向自己的账户开放。

固定版本后,我们核对了什么?

主要来源是 stepfun-ai/Step-5-Preview-BF16,固定 commit:

7734b7ffac118d70d8398bfa3eb0fab007eb45b1

仓库元数据记录更新时间为 2026-10-15T01:31:42Z。因此,搜索摘要里“等待 10 月 15 日发布”的文字可能已经落后于仓库。当前分支还会更新;固定版本是为了让本次检查能够复现。

产物本次证据不能据此证明
仓库元数据列出 28 个 .safetensors 文件每个文件均已成功下载并校验完整
主权重索引引用 26 个不同文件,全部在清单中完整加载或推理成功
配置Step5ForConditionalGeneration、文本 dtype 为 BF16任意已安装运行时都兼容
模型卡与推理说明固定版本已下载并阅读Ofox 自己完成了 GPU 验证
许可证可读取 StepFun Model License 1.0所有商业用途都无条件获准

索引的 metadata.total_size 是 1,208,684,168,984 字节,约为十进制 1.209 TB、二进制 1.099 TiB。这是索引中的张量规模,不是实际全量下载、完整磁盘需求或最低显存。额外文件、格式转换、临时副本、运行时缓冲与 KV cache 需要单独规划。

不下载上 TB 权重,也能先核对清单

下载 元数据检查脚本。它只用 Python 标准库,只请求小型仓库元数据和索引,不下载权重文件。

python3 step_metadata.py

脚本输出固定 commit、safetensors 文件数、索引引用的不同文件数、索引张量字节数及缺失文件列表。本版本预期是 28 个文件、26 个索引文件、1208684168984 字节,缺失列表为空。

结果不同就检查元数据,不要悄悄改用最新版本。HTTP 或 JSON 解析失败应停止核验。也可以直接查看 固定版本模型卡 和 权重索引。

脚本通过只说明索引和目录一致,不代表权重已全部下载、远程文件逐字节校验通过,或推理可运行。比较其他版本之前,保存本次输出与检查时间。

先选精度,再选硬件

官方模型卡链接 FP8 仓库 和本文检查的 BF16 仓库。按实际部署精度选择,不要混用不同版本的 tokenizer、配置、转换分片和权重。

模型卡描述总参数 600B、每 token 激活 27B。激活参数反映计算,并不代表只需要加载 27B 权重。把“激活 27B”直接当成存储或显存规模,会得出不可执行的部署方案。

权重格式官方模型卡的起步布局示例
FP84 × B300 或 8 × H200
BF168 × B300,或两个节点共 16 × H200

这是厂商示例,不是 Ofox 测得的最低配置,也不保证能跑满宣传中的最大上下文。配置中的 1,048,576 位置上限属于模型能力设置;实际可服务的上下文还受可用显存、批大小与 KV cache 影响。

BF16 路径需要 BF16 checkpoint。加载 FP8 文件时添加 --dtype bfloat16,不会把文件转换成官方 BF16 权重。

开机器之前,先读运行时限制

模型卡给出 Step 5 专用 vLLM 镜像 vllm/vllm-openai:step-5-preview,并要求相关模型、解析器和推测解码功能支持。安装一个通用的“最新版”不代表这些组件一定齐全。

固定版本的 推理 README列出 torch>=2.10,<2.14、transformers>=4.57.6,<6、safetensors>=0.7,<1、triton>=3.6,<3.8 等兼容范围。CUDA PyTorch 还必须匹配宿主驱动。按实际部署构建核对,不要假设旧环境可用。

独立转换流程只分片并保留 dtype,不做 BF16→FP8 量化。文档中的张量并行与专家并行共用一个组,因此 TP8、EP8 不等于 64 张 GPU。转换后的权重、配置、tokenizer 必须相互匹配。

尤其要保留官方限制:完整 BF16 convert.py → generate.py --tp-dir 文件分片流程尚未完成端到端验证。推理文档另有官方双节点 BF16 流式权重整模型验证,但那条路径的证据不能抹去前一条限制。某个测试记录的内存分配,也不是所有上下文和运行时的统一显存门槛。

需要图像或视频时,还要核对 processor 和预处理输入要求。文本生成冒烟测试不能证明视觉预处理、OCR 或视频理解已通过验证。

权重、自托管接口和云 API 怎么选?

任务下一步路径应取得的验收证据
确认发布状态与许可证官方仓库、小型元数据文件固定版本及相符的文件清单
评估推理基础设施选定权重与配套运行时说明加载成功、已知任务输出、资源测量和错误日志
不托管权重,使用云服务供应商当前模型和账户文档精确 endpoint、model ID、权限、可对账用量

云端路径应查看官方 Step 5 Preview 模型文档。本文不提供未经核实的云请求,也不声称某个账户已能调用。自托管示例中的 step5 是本地服务别名,不能据此认定它就是官方云 API ID。

做托管评估前,记录供应商、endpoint、精确模型标识、地区与账户资格、价格来源和数据政策,再执行获授权的请求。随后核对 HTTP 状态、返回的模型信息、预期输出、usage 与账单。下载仓库,或成功调用另一个 Step 模型,都不能完成这些检查。本文未核实 Ofox 的 Step 5 路由。

自托管时,先完成产物和运行时检查,再运行文档中的小型冒烟测试。端口监听成功不等于模型输出正确。失败后先保留精确版本、dtype、运行时构建、并行布局及首个加载错误,不要同时改多个变量。

读实际许可证,不只看“开放权重”

查看固定版本 LICENSE.txt。文件是 StepFun Model License 1.0,不是不附加条件的 Apache-2.0。模型卡虽然使用 Apache 风格表述,许可证仍有额外归属和商业条件,特定业务情形需要另行许可。

不要把“开放权重”翻译成“无条件商用”。将许可证版本与部署评估一起保存,由相应负责人按真实用途核对条款。

读完应能辨认官方权重和版本、复现目录与索引计数的区别、选定匹配的精度与运行时路径,并列出尚未完成的部署或账户检查。性能排名和真实部署结论需要后续证据,文件已经列出本身不能回答这些问题。