Українська в GPT коштує в 1,88 раза дорожче за англійську: заміряв той самий промпт 41 мовою

Моделі OpenAI рахують не слова, а токени. Той самий зміст українською розбивається на помітно більше токенів, ніж англійською, тож за кожен запит ви платите більше. Я вирішив перевірити, наскільки саме.

Взяв звичайний промпт для служби підтримки, переклав його 41 мовою і порахував токени тим самим токенізатором, який використовують GPT-4o та всі новіші моделі OpenAI (o200k_base).

Промпт

Англійською — 34 токени:

Please summarize the customer email below in three bullet points and suggest a polite reply. The customer says the order arrived two days late and one item was missing from the box.

Українською — 64 токени:

Коротко викладіть лист клієнта нижче у трьох пунктах і запропонуйте ввічливу відповідь. Клієнт пише, що замовлення прийшло на два дні пізніше і в коробці бракувало одного товару.

Результати

Повна таблиця для всіх 41 мови: tokensave.app/...​og/token-cost-by-language

Що мене здивувало

1. Українська подешевшала майже вдвічі, але досі в хвості. На токенізаторі епохи GPT-4 (cl100k) цей промпт коштував 3,15× від англійської, зараз — 1,88×. Проте серед 41 мови українська на 34-му місці від найдешевшої, поруч із польською.

2. Алфавіт не головне — важать дані. Російська на тій самій кирилиці виходить 1,32×. Різниця не в літерах, а в тому, скільки текстів кожною мовою токенізатор бачив під час навчання: часті слова стають одним токеном, рідші ріжуться на шматки.

• запропонуйте → запр | оп | ону | йте
• викладіть → вик | ла | ді | ть
• бракувало → бра | ку | в | ало

3. Найдорожчі мови — не азійські. Китайська майже не відрізняється від англійської (1,03×). У хвості — панджабі, грецька, чеська, польська та українська: мови з багатою морфологією або меншою кількістю текстів у навчальних даних.

Скільки це в грошах

Візьмімо модель за $2 за мільйон вхідних токенів і надішлімо цей промпт мільйон разів:

Це лише вхід. Якщо модель відповідає українською, той самий множник діє і для вихідних токенів, які зазвичай у 4–5 разів дорожчі. Для бота підтримки, що спілкується з клієнтами українською, рахунок за API майже вдвічі більший, ніж у такого самого сервісу англійською.

Як платити менше

• Системний промпт і сталі інструкції пишіть англійською. Вони йдуть із кожним запитом, тож економія там найбільша. Українською залиште тільки текст користувача й попросіть модель відповідати українською.
• Проміжні кроки — англійською або в JSON. Класифікація, витяг даних, виклики інструментів: користувач їх не бачить, а токенів вони з’їдають багато. Українською потрібна лише фінальна відповідь.
• Кешуйте сталу частину промпту (prompt caching). Кешований вхід в OpenAI коштує в рази дешевше.
• Приберіть ввічливі звороти й «воду». «Чи не могли б ви, будь ласка» моделі не потрібне — це просто токени.

Обмеження

• Заміряно один промпт. На інших текстах співвідношення може зсунутися на ±0,1–0,2.
• Цифри стосуються моделей OpenAI. У Claude та Gemini інші токенізатори.
• Переклади зроблено на основі машинного перекладу й перевірено.

Перевірити свій текст

Я зробив безкоштовний лічильник, який рахує токени й вартість просто в браузері (текст нікуди не надсилається) і показує, у скільки разів ваш текст дорожчий за той самий зміст англійською. Кнопка «Заощадити токени» чистить пробіли, перекладає текст англійською просто на пристрої (у Chrome) і прибирає зайві слова: tokensave.app/uk

А якою мовою у вас системні промпти — і чи помічали ви різницю в рахунках?