Toпік для обговорення та поділись досвідом, щоб не випадати з швидкого темпу розвитку ШІ.
Може бути:
хтось вже юзав /voice в claude code? Цікаво відгуки по UX цієї фічі
Просто слідкувати за ChangesList в ClaudeCode досить практично. Все що буде нове та перспективне з’явиться там. Конкурувати з топовими фірмами просто немає великого сенсу.
а зачем? как хайп спадет, выживет то что хоть както полезно тогда и видно будет.
смысл ща следить за всем этим мусорным контентом и мусорными ИИ раздуваемыми маркетологами
AI зробив все за тебе — відповів на кілька постів в стрічці твіттера, і тепер вся стрічка в AI.
І чим більше читаєш, тим більше ФОМО накриває. Вроді здоровим глуздом розумієш що все-одно, ти краще адаптував ШІ в свій робочий і життєвий форклфоу ніж 90% інженерів і 99% людей. Но із-за тих 10% інженерів і 1% людей, яких ШІ твіттера тобі підсовує, тобі здається що всі такі, і тільки ти тормоз. Добре що є ДОУ, можна зайти, почитати ШІ скептиків, і видихнути, погасити трохи ФОМО.
Вот чувак добре підсумував що відчувають ШІ євангелісти
youtu.be/dbMXi9q78Tk?t=128
Добре що є ДОУ, можна зайти, почитати ШІ скептиків, і видихнути, погасити трохи ФОМО.
а ще шапочка з фольги добре допомагає
Твиттер (Х) плюс если что-то важное пропускаю — саммери будет в мной настроенных дайджестах essentix.ai
все новости первыми появляются в твиттере. все остальные уже тянут оттуда. хотите быть в курсе — аккуратно составьте себе ленту подписки в твиттере.
Pulse в підписці chatgpt де будується щоденно огляд на тематики
До початку звусь траєкторію розвитку а то запит в тебе дуже широкий
Тут в топах стаття про контекст а от що вже потрібно вчити:
🌙 Вечірній звіт по LLM та AI релізах (за попередній день)
1) Ключові релізи моделей та систем
🧠 Mercury-2 — diffusion-LLM для reasoning
Inception Labs представили Mercury-2 — модель із diffusion-архітектурою замість autoregressive генерації.
Що це означає на практиці:
⚡ ~1000+ токенів/сек — радикально вищий throughput
🧩 reasoning рівня
🔌 API сумісний з OpenAI-подібними інтерфейсами
🤖 оптимізована під agent loops, а не single-shot prompts
📌 Архітектурно:
класичні LLM:
token → token → token
diffusion LLM:
draft → iterative refinement (паралельно)
👉 Це важливий зсув: модель не «пише текст», а ітеративно уточнює відповідь.
---
⚙️ NVIDIA Dynamo 1.0 — inference OS для агентів
NVIDIA випустили Dynamo 1.0 — операційну систему для inference-ворклоадів.
Ключові можливості:
інтеграція з TensorRT-LLM
оптимізація під GPU покоління Blackwell
📈 до 7× приросту продуктивності inference
orchestration layer для великих agent-систем
📌 Це не модель — це runtime-інфраструктура.
---
🎭
Компанія
🎙️ реальні розмовні агенти (voice + LLM)
🙂 синхронізована міміка + відео
🏢 enterprise-use (support, sales, onboarding)
👉 Фокус: інтерфейс агента, не ядро LLM.
---
2) Наслідки для runtime та вартості агентів
🚀 1. Throughput стає ключовою метрикою
Diffusion-LLM (як Mercury-2) змінюють баланс:
вартість агента ≈ latency × кількість кроків × concurrency
➡️ Якщо у вас
повільна модель = множення latency ×10
швидка модель = різке здешевлення pipeline
---
🧩 2. З’являється новий шар — inference OS
Stack еволюціонує:
Agent framework
↓
Inference OS (Dynamo)
↓
Model routing
↓
GPU cluster
📌 Висновок:
оптимізація вже не в prompt engineering, а в compute orchestration.
---
🔁 3. Latency тепер мультиплікативна
Agent pipelines:
plan → retrieve → tool → evaluate → refine
Кожен крок:
додає latency
збільшує cost
➡️ Тому:
high-throughput моделі = стратегічна перевага
batching + routing = must-have
---
3) Open-source та routing-екосистема
🧱 Dynamo як база для multi-model routing
Open-source inference OS дає:
⚙️ динамічний вибір моделей
💰 оптимізацію вартості (cheap vs smart routing)
🔀 hybrid stacks (open + proprietary)
---
🌐 Розширення open-model екосистеми
Ініціативи типу Nemotron (від NVIDIA) сигналізують:
кооперацію в навчанні великих моделей
швидше зростання open-альтернатив frontier LLM
---
4) Практичний вплив на архітектуру агентів
🧭 Основні тренди:
Diffusion-LLM → новий клас inference (throughput-first)
Dynamo → інфраструктура стає ядром системи
Agent systems → multi-step pipelines за замовчуванням
Routing → обов’язковий елемент (cost/perf баланс)
---
🧩 Bottom line
Відбувається системний зсув:
Було:
«обрати найкращу модель»
Стає:
«побудувати найефективніший inference runtime»
👉 Конкуренція переходить з model quality → system efficiency
---
Якщо хочеш — можу розкласти це вже на конкретні патерни архітектури (router, planner, toolformer, eval loop) під твої задачі 👇
Alex Zodov
Andrii Sevastianov
Леонид Мартынюк
Donald Trump
Мама програміста
Valdis Gerasymiak
OleksandrP
Bohdan Pomazan
Bohdan Pomazan
9 коментарів
Додати коментар Підписатись на коментаріВідписатись від коментарів