Вхід і реєстрація
Різне · 11 березня 2024, 16:30 686
DOU Community

UPD: Чат-бот від Ілона Маска Grok уже на GitHub

💡 Усі статті, обговорення, новини про AI — в одному місці. Приєднуйтесь до AI спільноти!

UPD: Як і обіцяв Ілон Маск: вихідний код чат-бота Grok уже можна переглянути на GitHub.

11 березня Ілон Маск повідомив, що упродовж тижня його компанія xAI відкриє вихідний код чат-бота Grok.

Grok офіційно запустили на X (Twitter) у грудні 2023 року. Він розроблений xAI, стартапом зі створення ШІ Ілона Маска. Першими скористатися чат-ботом змогли передплатники X Premium Plus у США.

В основі Grok лежить генеративна модель під назвою Grok-1, яка навчалася на даних з інтернету (до третього кварталу 2023 року) та на фідбеку від асистентів. Маск раніше натякав, що Grok має «трохи дотепності» і «бунтарську жилку», а також готовність відповідати на пікантні питання, які ігнорують більшість інших систем ШІ.

Як вважаєте, робити цей чат-бот open-source — хороша чи погана ідея?

Теми: AI, Ілон Маск, чат-бот
👍ПодобаєтьсяСподобалось0
До обраногоВ обраному0
LinkedIn
Дозволені теги: blockquote, a, pre, code, ul, ol, li, b, i, del.
Ctrl + Enter
Дозволені теги: blockquote, a, pre, code, ul, ol, li, b, i, del.
Ctrl + Enter
SemanticOverlord 11.03.2024 19:13

Я вважаю, це прекрасно.
Для мене особисто найбільша інтрига — розмір моделі. Бо якщо там 33b параметрів, як в Grok-0 (що навряд-чи, але все-таки) то це буде дуже перспективна модель для подальшого розвитку спільнотою.
+ Є надія, що він не такий зарегульований, як більшість моделей.
Наприклад версія Google Gemini Pro, що доступна через Vertex AI:
— порахуй від 1 до 100 —> Error, responce blocked: harassment на цифрі 14
— Перелічи 30 міст —> Error, responce blocked, recitation (copyright issues)

— це просто смішно,
(Gemini Pro через AI Studio не має таких недоліків, але заблокована в Європі, в т. ч. блокуються запити на API по IP)

Відповісти
Підтримати
Vic Programmer 11.03.2024 18:00
Як вважаєте, робити цей чат-бот open-source — хороша чи погана ідея?

Швидше за усе це анічогісенько не дає, ви не зможете відтворити технологію і сворити компанію технологічного конкурента маючи доступ до похідного коду, який не є сам по собі технологією. Швидше за усе щоб той код запрацював відповідно, потрібен датацентр набитий фермами з відеокарт який коштує сам по собі 3-4 мільйони і кушає електрики з іншим обслуговуванням ще десь тисяч на 20 доларів на місяць. Звісно такі інвестиції той самий Ілон Маск може легко собі дозволити, на відміну від більшості людей. На електро-мобільне виробництво як відомо інвестувало швидше міністерство енергетики США, надавши кредита в пів мільярда доларів. Ілон Маск поклав 70 мільйонів, що хоч і велика сума — але на фоні пів мільярду виглядає так собі. Щоправда треба визнати під «керівництвом» (швидше фінансовим контролем) Ілона — кредит вдалось повернути усього за три роки, власне тому компанія довго і була збитковою при тому, що на її продукцію був стабільний високий попит. Виробництво на території США це збіса дуже дорого.
Не треба мислити категоріями 80-х років минулого сторіччя, сам по собі похідний код без детального знання програмного продукту, бізнес вимог, документації тощо — майже нічого не вартий. А коли йдеться про треновану бізнес модель, головне може бути в блобах які не будуть додаватись і на які є патент.
id Softtware наприклад принципово відкривав код своїх engines, та це з рештою йшло швидше на користь компанії ентузіасти для портування купляли гру з ассетами.
Тут так само, а робиться це звісно з тією самою митою, як колись колись Microsoft зробив «безкоштовним» Internet Explorer під час браузерних війн, посадити на свою платформу замість OpenAI.

Відповісти
Підтримати
Dmytro Bondarenko 18.03.2024 12:11

300 GB RAM це 8 Nvidia A40, згідно з комментам на гітхабі.

Запускати модель у датацентрі для промислового використання та особистого — трішечкі різні речі... Не дуже розуміюсь на AI, але якщо пожертвувати перформансом заради вигоди у вигляді можливості запустити цю AI модель, хоч і з нижчою продуктивністю (порядок-два) на локальному залізі без використання спеціалізованих GPU — цього цілком вистачить для особистого використання на «погратись».

Держдеп у США фінансує багато різних программ, а не тільки ілона з теслою. Це було у 2010му у рамках програми розвитку чистої енергії (American Recovery and Reinvestment Act), куди Тесла подалась і отримала позику, власне, у рамках ARRA, а якщо детальніше, то Advanced Technology Vehicles Manufacturing Loan Program, фінансування отримали наступні компанії:

Ford Motor Company — 5.9B
Nissan North America, Inc — 1.45B
Fisker Automotive — 0.5B
Vehicle Production Group LLC — 50M

З такою, доповненою, інформацією, 500 лямів теслі вже не сприймаються так гостро, не правда же? Не зовсім зрозуміло, до чого взагалі було включати цю інформацію у коммент у такому маніпулятивному форматі, якщо, звісно, виключити особистий bias...

Відповісти
Підтримати
Vic

Підписатись на коментарі

Не підписуватись
Скористайтесь акаунтом
×
з умовами використання сайту і політикою конфіденційності.