Баланс для ШІ
«Баланс для ШІ» — окремий рахунок, з якого оплачуються звернення до моделей: відповіді в ШІ-чаті, відповіді AI-агента в боті та збирання бота. Абонентської плати немає: списується лише вартість того, що модель справді зробила.
Рахунок один на весь акаунт і спільний для всіх ваших проєктів. Валюта — та сама, що й у балансу кабінету.
Примітка
База знань оплачується інакше — помісячно з балансу кабінету. «Баланс для ШІ» на неї не витрачається. Докладніше — на сторінці Тариф і токени.
Як поповнити
«Баланс для ШІ» поповнюється переказом із балансу кабінету — один до одного, без комісії.
- Відкрийте розділ «Оплата» й у меню праворуч оберіть «ШІ-баланс».
- Натисніть «Поповнити».
- У вікні «Поповнення Балансу для ШІ» введіть суму. Її потрібно вказати з точністю до копійки, наприклад 500 або 99.90.
- Натисніть «Поповнити».
Над полем суми показано «Внутрішній баланс» — скільки грошей на балансі кабінету, під полем — поточний «ШІ-баланс».
Якщо на балансі кабінету не вистачає грошей, відкриється вікно «Недостатньо коштів» із сумою, якої бракує: спершу поповніть баланс кабінету, переказ виконається слідом.
Важливо
На «Баланс для ШІ» переказуються лише гроші. Бали для поповнення не використовуються.
Під балансом — «Історія поповнень»: дата й сума кожного переказу. Поточний «ШІ-баланс» видно й на сторінках «Тариф» і «Операції» поруч із балансом кабінету та балами.
Поповнити «Баланс для ШІ» можна й просто з чату: коли кошти закінчилися, власник проєкту бачить над полем введення кнопку «Поповнити».
Хто платить
Витрати списуються з «Балансу для ШІ» власника проєкту. Якщо в ШІ-чаті проєкту працює співробітник або в боті проєкту відповідає AI-агент — платить власник. Власний «Баланс для ШІ» співробітникові для роботи в чужому проєкті не потрібен.
Як рахується вартість
Моделі рахують текст у токенах. Токен — це слово або частина слова. Ціну моделі вказано за мільйон токенів, окремо за вхід і за вихід.
- Вхідні токени — усе, що модель отримала: ваше запитання, усе попереднє листування діалогу, прикріплені документи, результати інструментів.
- Вихідні токени — те, що модель написала у відповідь.
Вартість відповіді = вхідні токени × ціна входу + вихідні токени × ціна виходу. Ціни моделей — на сторінці Ціни додаткових послуг, а в кабінеті — у розділі «ШІ-моделі».
Звідси випливають три правила економії:
- Довгий діалог дорожчий за короткий. З кожним новим повідомленням модель заново отримує всю історію. Для нової теми починайте новий діалог, а довгий скорочуйте пунктом «Стиснути контекст».
- Інструменти додають запити. Коли модель шукає в інтернеті або читає документ, вона звертається до себе кілька разів поспіль: запитала — отримала результат — продовжила. Кожне таке звернення оплачується.
- Модель важить більше, ніж довжина запитання. Та сама відповідь на різних моделях може відрізнятися за ціною в багато разів.
Кеш промпту
Початок запиту в довгому діалозі повторюється від повідомлення до повідомлення: та сама інструкція, та сама історія. Частина моделей уміє запам'ятовувати цей повторюваний початок — це і є кеш.
- З кешу — токени, які модель узяла з пам'яті, а не обробила заново. Вони коштують дешевше за звичайний вхід.
- Запис у кеш — токени, які модель зберегла в пам'ять для наступних запитів.
Ціни кешу вказано на сторінці моделі: «Вхід з кешу» і «Запис у кеш». Якщо в моделі таких цін немає, ці токени рахуються за звичайною ціною входу. Робити для цього нічого не потрібно — кеш працює сам.
Що оплачується, крім відповідей
- Пошук в інтернеті — кожен пошук оплачується окремо, понад токени.
- Службові запити чату — назва діалогу, заголовки кроків у відповіді, визначення мови документа. Їх виконує окрема службова модель; кожен видно в «Логах» окремим рядком.
- Стиснення контексту — резюме пише обрана модель.
- Зупинена відповідь — оплачується та частина роботи, яку модель встигла виконати до зупинки.
Коли кошти закінчилися
Платформа перевіряє «Баланс для ШІ» перед кожною відповіддю.
У ШІ-чаті. Повідомлення не надсилається й залишається в полі введення разом із вкладеннями. Над полем з'являється: «Недостатньо коштів на Балансі для ШІ. Поповніть баланс, щоб продовжити.» Власник проєкту бачить поруч кнопку «Поповнити», співробітник — лише повідомлення.
Якщо кошти закінчилися посеред відповіді, у якій модель працює з інструментами, відповідь зупиняється. Те, що модель встигла написати, залишається в діалозі.
У боті з AI-агентом. Агент не відповідає, спрацьовує вихід «Помилка ШІ». Що з ним робити — на сторінці AI-агент.
Увага
Відповідь оплачується після того, як вона готова, тому остання відповідь може вивести баланс у невеликий мінус. Мінус погаситься під час наступного поповнення.
«Логи»
Розділ «ШІ-моделі» → «Логи». Тут записано кожне звернення до моделі в проєкті, нові зверху.
| Колонка | Що показує |
|---|---|
| «Час» | Коли виконано звернення |
| «Провайдер» | Розробник моделі |
| «Модель» | Яка модель відповідала |
| «Вхідні токени» | Скільки токенів отримала модель. Нижче — скільки з них «з кешу» і «у кеш», якщо кеш використовувався |
| «Вихідні токени» | Скільки токенів модель написала |
| «Тип» | Чим було звернення |
| «Вартість» | Скільки списано з «Балансу для ШІ» |
| «Чат» | Посилання на діалог, якщо звернення зроблено з ШІ-чату |
Типи звернень:
- «Повідомлення» — відповідь у ШІ-чаті;
- «Виклик інструментів» — звернення, у якому модель запросила інструмент;
- «Пошук в інтернеті» — сам пошук;
- «AI-агент» — відповідь агента в боті;
- «Стиснення контексту», «Заголовок чату», «Заголовок кроків», «Мова OCR» — службові запити.
Одна відповідь у чаті може зайняти кілька рядків: модель запросила інструмент, отримала результат, відповіла.
Над таблицею — фільтри «Провайдер» і «Модель» та вибір періоду.
Примітка
Посилання «Чат» відкриває діалог, лише якщо він ваш: діалоги особисті, і чужий діалог за посиланням не відкриється.
«Статистика»
Розділ «ШІ-моделі» → «Статистика». Два графіки за обраний період:
- «Використання токенів» — вхідні й вихідні токени. Якщо використовувався кеш, вхідні поділено на звичайні, «З кешу» і «Запис у кеш».
- «Запити» — кількість звернень до моделей.
Над графіками — період і деталізація, фільтри «Провайдер» і «Модель», перемикач вигляду: лінії або стовпці.
Статистика показує токени й запити, а не гроші. Суму за зверненнями дивіться в «Логах».
Така сама статистика за однією моделлю є на сторінці моделі в каталозі.
Хто бачить логи й статистику
Власник проєкту бачить усе. Співробітникові потрібні права «Перегляд логів» і «Перегляд аналітики» в групі «ШІ-агенти / Чат» його ролі. Як налаштувати роль — на сторінці Доступ співробітників.
Сам «Баланс для ШІ» і його поповнення — у розділі «Оплата» у власника акаунта: кожен бачить і поповнює лише свій рахунок.