Ежемесячный оценщик затрат

Q: Насколько эта оценка близка к моему реальному счету?

A: В оценке используется типичная эвристика длины токена для трех типов разговоров. Реальные разговоры различаются по продолжительности, поэтому ожидайте общей разницы примерно в ±15 %, что вполне достаточно для планирования бюджета и сравнения моделей. Точные цифры можно узнать на странице «Использование» на панели управления.

Q: Что произойдет со счетом по мере роста моей базы пользователей?

A: Выставление счетов осуществляется по мере использования, без каких-либо минимальных затрат или многоуровневых планов для фиксации емкости — ваш счет увеличивается или уменьшается в зависимости от фактического использования. Просто повторно запускайте этот инструмент с новыми числами всякий раз, когда меняется масштаб.

Q: Может ли сочетание нескольких моделей сэкономить больше?

A: Да, общепринятая схема производства — это маршрутизация по сложности задач: более дешевые модели для простых запросов, флагманские модели только при необходимости. Смешение моделей обычно обходится дешевле, чем использование одной модели для всего. Используйте рекомендатель моделей, чтобы узнать, какой уровень подходит для каждого сценария.