Miesięczny kosztorysant

Q: Jak blisko jest to oszacowanie do mojego rzeczywistego rachunku?

A: Oszacowanie wykorzystuje typową heurystykę długości tokenu dla trzech typów konwersacji. Prawdziwe rozmowy różnią się długością, więc spodziewaj się ogólnej wariancji wynoszącej około ± 15% — co jest wystarczające do planowania budżetu i porównywania modeli. Dokładne liczby znajdziesz na stronie Użycie w panelu kontrolnym.

Q: Co stanie się z rachunkiem w miarę powiększania się mojej bazy użytkowników?

A: Rozliczenia są rozliczane zgodnie z rzeczywistym użyciem, bez minimalnych wydatków ani wielopoziomowych planów blokowania pojemności — Twój rachunek zwiększa się lub zmniejsza w zależności od rzeczywistego wykorzystania. Po prostu uruchom ponownie to narzędzie z nowymi liczbami za każdym razem, gdy zmieni się skala.

Q: Czy mieszanie wielu modeli może zaoszczędzić więcej?

A: Tak — powszechnym wzorcem produkcji jest routing według złożoności zadań: tańsze modele do prostych zapytań, flagowe modele tylko wtedy, gdy są potrzebne. Mieszanie modeli zwykle kosztuje mniej niż używanie jednego modelu do wszystkiego. Użyj modułu doradczego modelu, aby sprawdzić, która warstwa pasuje do każdego scenariusza.