Chat Completions

Создание ответов чата. Поддержка генерации текста, мультимодального ввода, вызова функций, потоковых ответов и других функций.

Для новых проектов рекомендуем Responses API. Responses API разделяет instructions и input, поэтому к системным инструкциям автоматически применяется Prompt Caching: доля попаданий в кэш выше, а стоимость и задержка заметно ниже. Chat Completions по-прежнему поддерживается в долгосрочной перспективе; существующие интеграции переносить не нужно.

Эндпоинт


POST https://api.ofox.io/v1/chat/completions

Параметры запроса

Параметр	Тип	Обязателен	Описание
`model`	string	✅	Идентификатор модели, например `openai/gpt-6.1-sol`
`messages`	array	✅	Массив сообщений
`temperature`	number	—	Температура сэмплирования 0-2, по умолчанию 1
`max_tokens`	number	—	Максимальное количество генерируемых токенов
`stream`	boolean	—	Включить потоковый ответ
`top_p`	number	—	Параметр nucleus sampling
`frequency_penalty`	number	—	Штраф за частоту от -2 до 2
`presence_penalty`	number	—	Штраф за наличие от -2 до 2
`tools`	array	—	Определения доступных инструментов (Function Calling)
`tool_choice`	string/object	—	Стратегия выбора инструмента
`response_format`	object	—	Формат ответа (JSON Mode)
`provider`	object	—	Расширение OfoxAI: конфигурация маршрутизации и аварийного переключения

Формат Message


interface Message {
  role: 'system' | 'user' | 'assistant' | 'tool'
  content: string | ContentPart[]  // Текст или мультимодальный контент
  name?: string
  tool_calls?: ToolCall[]          // Вызовы инструментов в сообщении assistant
  tool_call_id?: string            // ID вызова в сообщении tool
}
 
// Мультимодальный контент
type ContentPart =
  | { type: 'text'; text: string }
  | { type: 'image_url'; image_url: { url: string; detail?: 'auto' | 'low' | 'high' } }

Примеры запросов

cURL

Terminal


curl https://api.ofox.io/v1/chat/completions \
  -H "Authorization: Bearer $OFOX_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "openai/gpt-6.1-sol",
    "messages": [
      {"role": "system", "content": "Вы — полезный ассистент."},
      {"role": "user", "content": "Объясните, что такое API Gateway"}
    ],
    "temperature": 0.7
  }'

Python

chat.py


from openai import OpenAI
 
client = OpenAI(
    base_url="https://api.ofox.io/v1",
    api_key="<Ваш OFOXAI_API_KEY>"
)
 
response = client.chat.completions.create(
    model="openai/gpt-6.1-sol",
    messages=[
        {"role": "system", "content": "Вы — полезный ассистент."},
        {"role": "user", "content": "Объясните, что такое API Gateway"}
    ],
    temperature=0.7
)
 
print(response.choices[0].message.content)

TypeScript

chat.ts


import OpenAI from 'openai'
 
const client = new OpenAI({
  baseURL: 'https://api.ofox.io/v1',
  apiKey: '<Ваш OFOXAI_API_KEY>'
})
 
const response = await client.chat.completions.create({
  model: 'openai/gpt-6.1-sol',
  messages: [
    { role: 'system', content: 'Вы — полезный ассистент.' },
    { role: 'user', content: 'Объясните, что такое API Gateway' }
  ],
  temperature: 0.7
})
 
console.log(response.choices[0].message.content)

Формат ответа


{
  "id": "chatcmpl-abc123",
  "object": "chat.completion",
  "created": 1703123456,
  "model": "openai/gpt-6.1-sol",
  "choices": [
    {
      "index": 0,
      "message": {
        "role": "assistant",
        "content": "API Gateway — это..."
      },
      "finish_reason": "stop"
    }
  ],
  "usage": {
    "prompt_tokens": 25,
    "completion_tokens": 150,
    "total_tokens": 175
  }
}

Потоковые ответы

Установите stream: true для включения потокового ответа SSE:

Python

stream.py


stream = client.chat.completions.create(
    model="openai/gpt-6.1-sol",
    messages=[{"role": "user", "content": "Расскажите историю"}],
    stream=True
)
 
for chunk in stream:
    content = chunk.choices[0].delta.content
    if content:
        print(content, end="", flush=True)

Формат потоковых ответов

Каждый chunk отправляется через SSE:


data: {"id":"chatcmpl-abc123","object":"chat.completion.chunk","choices":[{"index":0,"delta":{"content":"При"},"finish_reason":null}]}

data: {"id":"chatcmpl-abc123","object":"chat.completion.chunk","choices":[{"index":0,"delta":{"content":"вет"},"finish_reason":null}]}

data: {"id":"chatcmpl-abc123","object":"chat.completion.chunk","choices":[{"index":0,"delta":{},"finish_reason":"stop"}]}

data: [DONE]

Мультимодальный ввод (визуальный)

Отправьте изображение для анализа моделью:


response = client.chat.completions.create(
    model="openai/gpt-6.1-sol",
    messages=[{
        "role": "user",
        "content": [
            {"type": "text", "text": "Что на этом изображении?"},
            {"type": "image_url", "image_url": {"url": "https://example.com/image.jpg"}}
        ]
    }]
)

Модели с поддержкой визуальных возможностей: openai/gpt-6.1-sol, anthropic/claude-sonnet-5.5, google/gemini-3.8-flash и другие. Подробности см. в Руководстве по анализу изображений.

Function Calling

Подробности см. в Руководстве по вызову функций.