Step 5 Preview 공식 가중치 확인과 API·직접 운영 선택 기준

Step 5 Preview BF16 가중치 파일이 StepFun 공식 Hugging Face 저장소에 올라왔습니다. 2026년 10월 15일 메타데이터, 모델 카드, 설정, 라이선스, 가중치 색인을 가져와 확인했습니다. 저장소 목록에는 safetensors 파일 28개가 있지만, 기본 가중치 색인이 참조하는 파일은 중복을 제외하면 26개입니다. 집계 대상이 다르므로 서로 모순되는 수치가 아닙니다.

이 글은 공개 파일을 확인한 기록입니다. 전체 체크포인트 다운로드, 모든 가중치 파일의 해시 검증, 추론 실행, 벤치마크는 하지 않았습니다. 지금 모델을 사용하려면 세 가지를 구분해야 합니다. 공식 파일이 올라왔는지, 선택한 형식을 자신의 인프라에서 실행할 수 있는지, 호스팅 제공자가 자신의 계정에 접근 권한을 주는지는 각각 다른 문제입니다.

고정된 버전에서 확인한 내용

일차 출처는 stepfun-ai/Step-5-Preview-BF16이며, 다음 커밋으로 고정했습니다.

7734b7ffac118d70d8398bfa3eb0fab007eb45b1

저장소 메타데이터의 업데이트 시각은 2026-10-15T01:31:42Z였습니다. 따라서 가중치가 “10월 15일 공개 예정”이라고 표시되는 캐시된 검색 요약은 저장소의 현재 상태보다 늦을 수 있습니다. 최신 브랜치는 다시 바뀔 수 있지만, 리비전을 고정하면 같은 검사를 재현할 수 있습니다.

색인의 metadata.total_size는 1,208,684,168,984바이트로, 십진 단위 약 1.209 TB 또는 이진 단위 약 1.099 TiB입니다. 이는 색인에 포함된 텐서 크기입니다. 전체 다운로드 실측량, 총 디스크 요구량, 최소 GPU 메모리 사양이 아닙니다. 추가 파일, 변환, 임시 복사본, 런타임 버퍼, KV 캐시는 따로 계획해야 합니다.

1 TB 넘는 가중치를 받지 않고 목록 확인하기

메타데이터 검사 스크립트를 내려받으세요. Python 표준 라이브러리만 사용하며, 작은 저장소 메타데이터와 색인만 가져옵니다. 가중치 파일은 다운로드하지 않습니다.

python3 step_metadata.py

스크립트는 고정 커밋, safetensors 전체 파일 수, 색인이 참조하는 고유 파일 수, 색인 내 텐서 바이트 수, 저장소 목록에서 찾지 못한 참조 파일명을 출력합니다. 위 리비전에서는 파일 28개, 색인 참조 26개, 1208684168984바이트, 빈 누락 파일 목록이 나와야 합니다.

다른 결과가 나오면 메타데이터를 조사해야 합니다. 아무 설명 없이 최신 리비전으로 바꿀 이유는 아닙니다. HTTP 또는 JSON 오류가 나면 검사를 중단해야 합니다. 원본 증거는 고정 모델 카드와 고정 가중치 색인에서 직접 볼 수 있습니다.

스크립트 통과는 색인과 목록이 일치한다는 뜻입니다. 전체 모델을 다운로드했거나, 모든 원격 객체를 바이트 단위로 검증했거나, 추론이 성공한다는 뜻은 아닙니다. 다른 체크포인트 리비전을 평가하기 전에 검사 시각과 출력을 저장하세요.

하드웨어보다 정밀도 형식을 먼저 선택하기

공식 모델 카드는 FP8 저장소와 여기서 확인한 BF16 저장소를 연결합니다. 실제로 배포하려는 정밀도의 링크를 사용하세요. 서로 관계없는 리비전의 토크나이저, 설정, 변환된 샤드, 가중치를 섞지 마세요.

모델 카드가 설명하는 전체 파라미터는 600B, 토큰당 활성 파라미터는 27B입니다. 활성 파라미터는 연산량을 뜻하며, 27B만 메모리에 올려도 된다는 의미가 아닙니다. “27B 활성”을 전체 저장 공간이나 메모리 크기로 해석하면 실행할 수 없는 배포 계획이 됩니다.

공식 시작 구성 예시는 다음과 같습니다.

이는 공급업체의 구성 예시이지 Ofox가 측정한 최소 요구 사항이 아닙니다. 공시된 최대 컨텍스트가 메모리에 들어간다는 보장도 아닙니다. 설정의 1,048,576 위치 제한은 모델 기능 설정이며, 실제 배포가 처리할 수 있는 양은 가용 메모리, 배치 크기, KV 캐시에 따라 달라집니다.

BF16 경로에는 BF16 체크포인트가 필요합니다. FP8 파일을 로드하면서 --dtype bfloat16을 지정해도 공식 BF16 체크포인트로 변환되지 않습니다.

인프라를 마련하기 전에 런타임 제약 확인하기

모델 카드는 Step 5 전용 vLLM 이미지 vllm/vllm-openai:step-5-preview와 해당 모델 및 관련 파싱·투기적 디코딩 기능에 대한 프레임워크 지원을 언급합니다. 일반적인 “최신 버전”을 설치했다는 사실만으로 필요한 구성 요소가 포함됐다고 볼 수 없습니다.

고정된 추론 README는 torch>=2.10,<2.14, transformers>=4.57.6,<6, safetensors>=0.7,<1, triton>=3.6,<3.8 등의 호환 의존성을 제시합니다. CUDA PyTorch와 호스트 드라이버도 맞아야 합니다. 이전 환경이 적합하다고 가정하지 말고, 실제 배포할 런타임과 이 조건을 대조하세요.

독립 실행형 변환 경로는 dtype을 유지하며 체크포인트를 분할합니다. BF16을 FP8로 양자화하는 과정이 아닙니다. 문서의 경로에서는 텐서 병렬과 전문가 병렬이 그룹을 공유하므로 TP8과 EP8이 GPU 64개를 뜻하지 않습니다. 변환된 가중치, 설정, 토크나이저는 서로 맞는 상태로 유지해야 합니다.

특히 모델 카드는 BF16의 convert.py → generate.py --tp-dir 파일 샤딩 전체 흐름이 처음부터 끝까지 검증되지 않았다고 명시합니다. 추론 안내에는 BF16 가중치를 스트리밍하는 2노드 전체 모델 검증이 별도로 나옵니다. 이는 그 경로에 대한 의미 있는 증거이지만, 앞의 제약을 없애지는 않습니다. 특정 테스트에서 보고된 메모리 할당량도 모든 컨텍스트와 런타임에 적용되는 보편적 요구량은 아닙니다.

이미지나 동영상이 필요하다면 프로세서와 준비된 입력의 요구 사항도 확인하세요. 텍스트 생성 스모크 테스트만으로 시각 입력 전처리, OCR 품질, 동영상 이해를 검증한 것은 아닙니다.

가중치, 자체 호스팅 엔드포인트, 호스팅 API 구분하기

현재 클라우드 경로는 공식 Step 5 Preview 모델 문서에서 확인하세요. 이 글은 검증하지 않은 클라우드 요청을 제공하거나 특정 계정이 호출할 수 있다고 주장하지 않습니다. 자체 호스팅 예시의 제공 모델명 step5는 로컬 서버의 별칭이지, 공식 클라우드 API 식별자의 증거가 아닙니다.

호스팅 서비스를 평가할 때는 승인된 요청을 보내기 전에 제공자, 엔드포인트, 정확한 모델 식별자, 지역·계정 자격, 요금 출처, 데이터 정책을 기록하세요. 이후 HTTP 상태, 반환된 모델 정보, 기대 출력, 사용량, 청구를 검증합니다. 저장소 다운로드나 다른 Step 모델에 대한 성공 요청은 이 검사를 대신하지 못합니다. 이 글에서는 Ofox의 Step 5 경로를 검증하지 않았습니다.

직접 운영한다면 전체 파일과 런타임을 확인한 뒤 문서의 작은 스모크 테스트부터 시작하세요. 출력 합격 여부는 프로세스 시작 성공과 구별해야 합니다. 포트에서 대기 중이라는 사실만으로 유효한 모델 출력이 입증되지 않습니다. 실패 시 여러 변수를 바꾸기 전에 정확한 리비전, dtype, 런타임 빌드, 병렬 구성, 첫 로딩 오류를 보존하세요.

실제 라이선스 확인하기

고정된 LICENSE.txt를 읽으세요. 이 파일은 StepFun Model License 1.0이며, 추가 조건 없는 Apache-2.0 라이선스가 아닙니다. 모델 카드에 Apache 방식의 표현이 있지만, 실제 라이선스에는 추가 표시 의무와 상업적 조건이 있고, 특정 사업 상황에서는 별도 허가가 필요합니다.

“가중치 공개”를 “무조건 상업적 이용 가능”으로 해석하지 마세요. 배포 평가 자료에 라이선스 리비전을 보관하고 담당자가 실제 약관에 맞춰 의도한 용도를 평가하도록 하세요.

공식 체크포인트와 리비전을 식별하고, 목록과 색인의 차이를 재현하며, 맞는 정밀도·런타임 경로를 선택하고, 남은 배포 또는 계정 확인을 설명할 수 있으면 이 글의 작업을 마친 것입니다. 성능 순위와 실제 배포 결과에는 추가 증거가 필요하며 파일 공개만으로는 알 수 없습니다.