Длинный контекст и PDF в Claude
На этой странице описаны длина контекста Claude и способы передачи PDF. ID моделей и адреса API см. в обзоре семейства Claude.
Контекст 1M
Все модели, кроме Haiku 4.5 (200K), имеют контекст 1M токенов, и передавать официальный beta-заголовок для контекста 1M не нужно. При превышении контекста модели возвращается prompt is too long — см. Типичные ошибки.
Ввод PDF
Нативный API Anthropic
claude_pdf.py
import base64
import os
import anthropic
client = anthropic.Anthropic(base_url="https://api.ofox.io/anthropic", api_key=os.environ["OFOX_API_KEY"])
pdf_b64 = base64.b64encode(open("invoice.pdf", "rb").read()).decode()
message = client.messages.create(
model="anthropic/claude-haiku-4.5",
max_tokens=1024,
messages=[{"role": "user", "content": [
{"type": "document", "source": {"type": "base64", "media_type": "application/pdf", "data": pdf_b64}},
{"type": "text", "text": "Какова общая сумма в этом счёте?"},
]}],
)
print(message.content[0].text)Каждая страница PDF учитывается во входных токенах как текст и как изображение страницы, поэтому при большом числе страниц следите за длиной контекста и стоимостью.
Другие ошибки см. в разделе Типичные ошибки.
Обновлено