GPT 추론 설정

이 페이지에서는 GPT 시리즈의 추론 강도, 추론 요약, 답변 길이 조절을 설명합니다. 모델 ID와 API 설정은 GPT 시리즈 개요를 참고하십시오.

요점추론에 소비된 토큰은 출력 상한에 포함됩니다. 추론을 켤 때는 max_completion_tokens를 충분히 확보하십시오. 그렇지 않으면 답변이 비어 있을 수 있습니다.

GPT-5 이후 모델은 추론을 지원합니다. 내부적으로 먼저 추론한 뒤 답변하며, 수학, 코드, 여러 단계의 분석에 적합합니다.

항목	Chat Completions	Responses
추론 강도	`"reasoning_effort": "high"`	`"reasoning": {"effort": "high"}`
추론 토큰 수	`usage.completion_tokens_details.reasoning_tokens`	`usage.output_tokens_details.reasoning_tokens`
추론 내용	반환하지 않음	추론 요약. 아래 참고

주로 쓰는 값은 low, medium, high이며, 강도가 높을수록 추론 토큰이 많아지고 시간이 오래 걸립니다. 모델이 지원하지 않는 값을 전달하면 400이 반환되며, 오류 메시지에 해당 모델이 지원하는 값이 나열됩니다.
reasoning_effort를 전달하지 않았을 때의 기본 동작은 모델마다 다릅니다. 예를 들어 GPT-5.4, GPT-6 Sol은 기본적으로 추론하지 않고, GPT-5는 기본적으로 추론합니다. 추론이 필요하면 명시적으로 전달하십시오.
추론 토큰은 출력 단가로 과금되며 max_completion_tokens(Responses에서는 max_output_tokens)에 포함됩니다.

추론 요약

Responses API는 추론 과정의 요약을 반환할 수 있지만, Chat Completions는 추론 내용을 반환하지 않습니다.

gpt_reasoning_summary.py


import os
from openai import OpenAI
 
client = OpenAI(base_url="https://api.ofox.io/v1", api_key=os.environ["OFOX_API_KEY"])
 
resp = client.responses.create(
    model="openai/gpt-5.4",
    reasoning={"effort": "medium", "summary": "auto"},
    max_output_tokens=20000,
    input="n² + n + 41이 소수가 아닌 50 미만의 양의 정수 n을 모두 찾고, 이유를 간단히 설명해 주세요.",
)
for item in resp.output:
    if item.type == "reasoning":
        for s in item.summary:
            print("[추론 요약]", s.text)
print("[답변]", resp.output_text)

output에는 reasoning 항목이 여러 개 있을 수 있으며, 그중 일부는 summary가 빈 배열이므로 항목별로 확인하며 읽으십시오. 추론이 적으면 요약이 없을 수도 있습니다.

답변 길이 조절

GPT-5 시리즈 모델은 Chat Completions에서 verbosity를 지원하며, 값은 low, medium, high로 답변의 상세 정도를 조절합니다. max_completion_tokens와 달리 답변을 잘라 내지 않습니다.

기타 오류는 자주 발생하는 오류를 참고하십시오.