Сучасна диджитал-освіта для дітей — безоплатне заняття в GoITeens ×
Mazda CX 30
×

Робота ChatGPT може коштувати компанії OpenAI $700 тисяч на день через дорогі сервери

Функціонування ChatGPT та виконання ним різноманітних завдань може коштувати для OpenAI орієнтовно $700 тисяч на день. Головна причина — дороговартісна технологічна інфраструктура, на якій працює штучний інтелект, про це повідомляє The Information, посилаючись на дані Ділана Пателя із дослідницької фірми SemiAnalysis.

Аналітик зазначив, що ChatGPT потребує величезної обчислювальної потужності для того, щоб надавати релевантні відповіді, відштовхуючись від підказок користувачів. Для налагодження всіх процесів необхідні дорогі сервери.

У коментарі для Insider Патель додав, що зараз, ймовірно, використання технології є ще дорожчим, оскільки початкова оцінка базувалася на моделі GPT-3 OpenAI. На його думку, остання модель компанії — GPT-4 — буде ще складнішою в експлуатації.

Як пише The Information, прагнучи знизити вартість, Microsoft створює ШІ-чіп під назвою Athena. Проєкт стартував у 2019 році, зараз над ним працює понад 300 фахівців корпорації.


Нагадаємо, у березні, після кількох місяців очікування, OpenAI випустила нову потужну модель штучного інтелекту — GPT-4. Серед нововведень нейромережі — можливість опрацьовувати не тільки текст, але й зображення, та інтерпретувати складні графічні елементи. Також компанія презентувала API для ChatGPT і Whisper та закликала розробників інтегрувати ці технології у свої програми і продукти.

Все про українське ІТ в телеграмі — підписуйтеся на канал DOU

👍ПодобаєтьсяСподобалось1
До обраногоВ обраному0
LinkedIn

Схожі статті




14 коментарів

Підписатись на коментаріВідписатись від коментарів Коментарі можуть залишати тільки користувачі з підтвердженими акаунтами.

тут головне під час розробки не забувати вимикати на ніч віртуалки на AWS

недавно запускал такого рода игрушку локально в CPU режиме с базой в ~8 гб
ресурсов оно жрет как не в себя и работает крайне неторопливо (по 40-50 секунд на генерацию ответа на i7 10-го поколения)
так что в порядок цифр из новости верю

Ось так, ШІ-човен розбився об стіну фінансового побуту 😄

для тих хто думає чи ChatGTP знищить гугл. Бізнес модель гугла така:
1) Є голодний веб розробник
2) він пише сайт який відкритий для краулерів типу гугла за дизайном, технічно і юридично. Веб розробник вирішує яку інфу він дає пошуковим машинам а яку можна отримати тільки зайшовши на сайт і побачивши рекламу.
3) так як розробників багато, вони покривають величезну кількість різних тем в різним рівнем деталізації
4) Користувач риється в купі лінків на гуглі, з 5-10го разу знаходить те що йому потрібно передивившись купу реклами.
5) профіт гуглу і власнику сайту.

Як працює ChatGPT
1) заходить краулер GPT на сайт створений для гугл і парсить дані в свою модель
2) користувач заходить на сайт ChatGPT і отримує дані в зручному вигляді з першого разу.
3) Профіт ChatGPT, а розробник сайту який був запаршений в модель голодний.

Хтось думає така модель має майбутнє?

Хтось думає така модель має майбутнє?

Думаю, що має, просто нинішньому традиційному веб-девелопменту потрібно готуватися до змін, т.я. користувачі будуть значно менше гуглити.

В мене до вас декілька запитань, як від профана до компетентної у веб-девелопменті людини:
1. Як виглядає пошукова бізнесь модель Bing з інтегрованим ChatGPT-4 і чи це є загрозою для розробника?
2. Як буде виглядати бізнесь модель Google Search з інтегрованим Bard і чи це буде загрозою для розробника?
3. Як буде виглядати бізнесь модель Baidu Search з інтегрованим AI chatbot і чи це буде загрозою для китайського розробника?
4. Чи маєте ви ідею архітектури для стартапу з технологією та фреймворком, яка буде використовуватися при веб-розробці для монетизованої партнерської програми при взаємодії з краулерами різних AI chatbots (для прикладу можна взяти, як Shopify, Magento та ін. інтегровані в e-commerce)?

1) скоріш за все стандартна стратегія майкрософт — upsale. Якщо ChatGPT буде частиною bing вони включать ще 100500 продуктів типу Office365, Windows, MS Office, Xbox і зроблять перехресні посилання з одних продуктів на інші. Якщо щось одне буде потрібно — будуть пропонувати купити все і відразу. Звичайно це загроза, і вирішується просто — жодної інфи роботам, тільки зареєстрованим користувачам, і явна заборона в ліцензії парсити дані сайтів в модель без дозволу. Дозвіл за гроші, або за лінку. За невиконання — погрози кортом або корт.
2) так само як і ChatGPT. Звичайно загроза, і вирішується так само просто. Заборона в єулі парсити безкоштовно. Тільки за домовленістю. В США порушувати не будуть, дорожче обійдеться.
3) ідей 100 штук. Рекламний сервіс який буде викупати запити в ChatGPT і перепродувати за конкретні лінки. Розбиваємо по індустріях. Приклад: ріал естейт, туризм, вікна-двері, що завгодно. ChatGPT не зможуть напряму продавати всім бажаючим — не вистачить часу в них, і вони мають створити якусь біржу.

ChatGPT вже інтегрований не тільки в Bing, а також в деякі інші продукти Microsoft ...

Стратегія блокування доступу для роботів до контенту сайту помилкова, особливо, якщо є велика залежність від реклами, потрібна win-win стратегія, коли будуть платити за індексування контенту роботами і також з урахуванням наскільки потім активно цей контент буде використовувтися в АІ генерації текстів та ін., ... і коли пропонуєте технологію для взаємодії з AI chatbots, повинно цікавити не тільки монетизація, а також які метрики ви можете отримати в такому процесі.

А поки маємо ось такі позиції від Reddit та Stack Overflow www.wired.com/...​giants-for-training-data

twitter.com/...​/1653143725730672640?s=20
після заяви Reddit те ж саме Маск заявив в Twitter сьогодні. Дуже скоро всі веб сайти це зроблять.
Я патентую(ні) ідею платформи

<meta name="ai-parsing" content="paid" />
<meta name="ai-parsing-quotes" content="https://parse-my-website.com/dou.ua">

$20кк/мес я думал будет поболее.
Это 1кк подписчиков или 20к относительно крупных бизнесов по апи.
У стартапа обычно и не стоит цель заработать на клиентах.

Мільярда інвестицій вистачить на майже 4 роки

Цього часу достатньо AI для досягнення власних цілей: заміна абревіатури MANGA (FAANG) на AIMO (Microsoft OpenAI Office), Clippy повертається.

Підписатись на коментарі