Отслеживание использования

Консоль OfoxAI предоставляет комплексную статистику использования и мониторинг производительности.

Статистика использования в реальном времени

Панель обзора

На главной странице консоли отображаются ключевые показатели:

• Всего запросов — общее количество API-вызовов за текущий период
• Всего токенов — общее количество потреблённых prompt + completion токенов
• Общая стоимость — накопленные расходы за текущий период
• Показатель успешности — процент успешных API-запросов

Временные тренды

Поддерживается просмотр трендов по различным временным интервалам:

Многомерный анализ

Анализ по моделям

Просмотр использования по каждой модели:

• Доля запросов
• Доля потребления токенов
• Доля расходов
• Средняя задержка

Анализ по провайдерам

Просмотр производительности узлов каждого провайдера:

• Сравнение показателей успешности
• Распределение задержек
• Частота срабатывания аварийного переключения

Анализ по API Key

Просмотр использования по каждому API Key:

• Объём запросов по каждому ключу
• Расходы по каждому ключу
• Удобное отслеживание затрат по проектам/командам

Оповещения об аномалиях

Правила оповещений

Доступны следующие правила оповещений:

Каналы уведомлений

Оповещения поддерживают следующие каналы уведомлений:

• Уведомления по электронной почте
• Webhook (интеграция со Slack, Lark, DingTalk и др.)

Лучшие практики

1. Используйте разные API Key для разных проектов — для удобного отслеживания затрат по проектам
2. Настройте оповещения о расходах — чтобы избежать неожиданно высоких счетов
3. Регулярно проверяйте распределение моделей — убедитесь, что выбор моделей соответствует ожиданиям
4. Следите за трендом ошибок — аномальный рост может указывать на проблемы с конфигурацией