Настройка thinking в Gemini
На этой странице описаны значения thinking по умолчанию в моделях Gemini и способы его настройки. ID моделей и адреса API см. в обзоре семейства Gemini.
Перед ответом модели Gemini сначала выполняют thinking. Токены thinking учитываются в выводе и оплачиваются по цене вывода; их число указано в usageMetadata.thoughtsTokenCount (в OpenAI-совместимом API — usage.completion_tokens_details.reasoning_tokens).
По нашим замерам на одной и той же математической задаче, thinkingLevel: "low" снижает число токенов thinking у Gemini 3.5 Flash примерно с 6000 до 4600, и время ответа соответственно сокращается. thinkingBudget: 0 отключает thinking у 3.5 Flash и 3 Flash Preview; 3.1 Pro Preview и 3.8 Flash продолжают выполнять thinking и с этим значением — полностью отключить его нельзя.
Python (google-genai)
import os
from google import genai
from google.genai import types
client = genai.Client(
api_key=os.environ["OFOX_API_KEY"],
http_options={"api_version": "v1beta", "base_url": "https://api.ofox.io/gemini"},
)
resp = client.models.generate_content(
model="google/gemini-3.8-flash",
contents="Найди все натуральные n меньше 50, при которых n² + n + 41 не является простым числом.",
config=types.GenerateContentConfig(
thinking_config=types.ThinkingConfig(thinking_level="low"),
),
)
print(resp.text)
print("Токены thinking:", resp.usage_metadata.thoughts_token_count or 0)- При
thinkingLevel: "low"на простые вопросы модель может отвечать без thinking, иthoughtsTokenCountв ответе отсутствует. - Чтобы увидеть процесс thinking, добавьте в
thinkingConfigпараметр"includeThoughts": true: элементыpartsс"thought": trueсодержат сводку thinking, остальные — ответ. - Токены thinking учитываются в
maxOutputTokens. Если лимит слишком мал, ответ обрывается на середине — см. Типичные ошибки. thinkingConfigнаходится внутриgenerationConfig.