Рахунок на пів мільярда доларів за місяць використання Claude або як НЕ треба робити

💡 Усі статті, обговорення, новини про AI — в одному місці. Приєднуйтесь до AI спільноти!

Один незалежиний консультант із питань ШІ повідомив виданню Axios інформацію про інцидент, в межах якого одна неназвана компанія примудрилася витратити пів мільярда доларів всього за 30 днів на підписках та токенах для моделей Claude.

Як вдалося профінькати таку суму грошей

Секрет такого космічного рахунку виявився досить простим. Керівництво підприємства відкрило своїм співробітникам доступ до найпотужніших моделей Claude, але абсолютно забуло про базові правила безпеки. Ніхто не налаштовував жорстких лімітів витрат, не запровадив ніяких дашбордів для моніторингу активності та не обмежив використання хмарних ресурсів.

Айтівці та інші працівники отримали карт-бланш. Співробітники навантажували систему максимально ресурсоємними задачами. Вони розгортали автономних ШІ-агентів та вибудовували цілі пайплайни, де нейронка самостійно крок за кроком виконувала складні процеси.

Додайте сюди також промпти з величезним контекстом, які з’їдають колосальні обсяги токенів за один запит, і помножте це на тисячі співробітників. Рахунок почав зростати в геометричній прогресії, спустошивши бюджет швидше, ніж фінансовий відділ взагалі встиг це помітити.

«Використати „Важкого Гу́става“ проти хати-мазанки»

Ситуація почала звучати ще більш абсурдно, коли з’ясувалося, на що саме йшли дорогі потужності. За словами одного з технічних директорів, деякі працівники використовували надпотужні корпоративні ШІ-моделі просто для того, щоб дізнатися прогноз погоди. Кожен такий безневинний запит до чат-бота обходився компанії у цілком реальні гроші, які масштабувалися на весь штат.

Інші гіганти теж починають рахувати гроші

Хоча цей інцидент є наймасштабнішим із задокументованих, він далеко не єдиний. Нещодавно Microsoft скасувала більшість внутрішніх ліцензій на Claude Code. Як повідомляється, причиною стало не лише бажання перевести співробітників на власний продукт Copilot, а й фінансова складова. Витрати на одного інженера сягали від 500 до 2000 доларів на місяць, що виявилося забагато навіть для такого гіганта.

Схожа ситуація сталася і з Uber. Головний операційний директор компанії зізнався, що через агресивне впровадження ШІ по всій організації річний бюджет на ці технології був повністю вичерпаний ще у квітні.

👍ПодобаєтьсяСподобалось8
До обраногоВ обраному1
LinkedIn
Дозволені теги: blockquote, a, pre, code, ul, ol, li, b, i, del.
Ctrl + Enter
Дозволені теги: blockquote, a, pre, code, ul, ol, li, b, i, del.
Ctrl + Enter

Треба оглянутись, на філософську сторону питання (про розбудови ШІ, на яку якість нам вистачить?).

САМА ВЕЛИКА БІДА, у тому що ми своєю кількістю запитів, нагріваємо процеси ШІ, там де не треба, і пришвидшуємо «вичерпання енергоресурсів які нам дають електрику». Електрика дляаби-чого, але гонемо її все більше до ШІ.
Ми заставляємо сильніше занурювати стержні, на станціях ядерного обміну. Створюємо нові електростанції спеціально під ШІ.
Питання, ми пришвидшуємо людство до повернення в кам’яний вік?

Чим топити потім пічки / прогрівати оселі? Через 20 років ... Чи альтруїзм на «безкінечне життя вітрових станцій і безкінечного хімічного процесу» понадіємось... Що, все що нам треба в усі віки нам вироблять заводи?, але не маючи на то сировини?

Бо граємось як діти, СОБОЮ виховуємо — роботизованих дітей щоб вона/вони нам допомагала жити в достатку, і в лінощах?

В який момент ми зрозуміємо що «переграємо самі себе в штучних потребах».

Для одних мов програмування — використовую — один ШІ.

Для інших підтипів програмування :: деякі ШІ одразу з’їдають свої об’єми безкоштовних токенів — і ці підтипи у мене — регулярні вирази Regex для шаблонів пошуку (в середині коду з програмування). Тому мені достатньо одного ШІ, котрий постійно може відповідати беззупинно саме по цих справах.

Ну і я динозавр, тільки в кінці того тижня став використовувати ШІ , який прямо може втручатись в проєкт з кодом. Мені він переписав мою прогу, з мови AHK на C#, але на запит про виправленя помилок — аж тоді «завис з відповідями, бо токенів не вистачило». Мені все одно це стало великим плюсом що він ВСТИГ+зміг охопити біля 7-ми файлів мого коду від 200 до 1400 рядків з осмисленням коментарів в коді. — Тепер чекатиму до 04 червня, що він мені навиправляє. для успішної компіляції. АЛЕ базово — мені вже є — що читати і вивчати у змінах (при переході на інший код) , це все одно ймовірно спростило і дало фору , на зменшення, замість :: 2 тижні власного кодінгу з нуля. Плюс спасло + 3-4 тижня зменшення часу на перевивчення деяких методів (підходу), в в нову мову програмування після AHK.

для звичайних запитів і зміни теми — використовую взагалі Copylot, з вбудованого браузера Edge (як користувач ОС Windows ), навіть не як окрему програму, а просто вбудований браузер — залишається у мнене для отримання даних — швидкого «сміття».

Дійсно прикольно НЕГАТИВНО, коли щоб звертатись в «одне вікно запитів // в ОДНУ КАСУ», дійсно стає звичним -спитати у вікно ШІ, а не звичайний пошук в вікно пошуку Браузеру Chhrome.
Для виконання нових сучасних потреб, краще дійсно удосконалити ШІ — вікно запитів. В сам ШІ додавати окрему кнопку — («запитати в пошуковому сайті»), або «полегшений запит для отримання посилань». в вікно ШІ.

Витрати на одного інженера сягали від 500 до 2000 доларів на місяць

мега корпорации, которые еще вчера жались один раз заплатить $300 за приличные стулья для своих сотрудников, сегодня будут платить сверху несколько сотен долларов каждый месяц ради мифического прироста производительности?
что же могло пойти не так? )

No, a company didn’t spend $500M on Claude in a month
stax.sh/...​s/500-million-claude-bill

Ситуація почала звучати ще більш абсурдно, коли з’ясувалося, на що саме йшли дорогі потужності. За словами одного з технічних директорів, деякі працівники використовували надпотужні корпоративні ШІ-моделі просто для того, щоб дізнатися прогноз погоди.

А тепер дивимось в джерело на Axios (хоча б посилання є) і бачимо, що нема жодної причини вважати, що та фірма, що витратила пів-мільярда, і та, де питали погоду, це одна і та ж. Вони згадані в різних секціях на різні аспекти проблеми.

Павле, навіщо ви так?

А что за компания, интересно, не фейсбук ли? Марк от такой хехе

Сподіваюсь всіх причетних засудять, бо сума нанесених збитків катастрофічна. Це ж яким відбитим треба бути, щоб не розуміти що твориш.

Засудять за що? Компанія надала інструмент і наказала використовувати. Може ще й зробила лідерборд хто більше всіх стирається (тобто хто спалив більше токенів). Співробітник не відповідає за фінансові результати компанії, він виконує свою роботу використовуючи надані інструменти.

Ще й премії менеджерам, за впровадженя, випишуть.

Засудять керівництво компанії? Не думаю, що вони спробують себе засудити.

теж так робив коли контора дала курсор

а мені цікаво чому така просто задача як прогноз погоди обходиться в реальні гроші...
я тут бачу проблему єфективності
і можливо ключ до успіху моделі якраз не абсолютна потужність в тестах
а в єфектвіності $/token чи token/promt чи watt/token (чи як там правильно міряти)

Дивлюсь я на чеки і думку гадаю
Чому я не Anthropic — чому не багатію

30 мільярдів баксів прибутку, Україні на рік вистачить воювать. І при чому це з явно та сама бажина, коли сіть не може справитись із промптом і виїдає усі токени одним запитом, та просить поповнити рахунок, при цьому ще і не видає результату.

Це не прибуток, а дохід. Прибуток можливо в них буде в цьому кварталі, як вони самі прогнозують. ШІ-компанії поки працюють чисто в мінус і з вірою в майбутнє.

а цей незалежиний консультант і неназвана компанія з нами в одній кімнаті зараз? Автономні агенти такі автономні, що самі знайшли корпоративну картку, а фіндиректор відкрив білінг і одразу повірив у AGI

Один незалежиний консультант із питань ШІ повідомив виданню Axios інформацію про інцидент, в межах якого одна неназвана компанія примудрилася витратити пів мільярда доларів всього за 30 днів

насправді витрат було не півмільярда, а 100 000 000 000 мільярдів

Якщо б Трамп не був президентом, то цих би витрат не було... © :))))

Підписатись на коментарі