Зібрали агентський pipeline для медіа-клієнта: авторозпізнавання теми і тональності контенту, автопублікація в кілька каналів з адаптацією під кожен формат, моніторинг engagement і коригування часу публікацій на наступному тижні. Клієнт зекономив ~15 годин SMM-роботи щотижня. Але найнесподіваніший висновок: найбільша цінність виявилась не в самій автоматизації, а в тому що вперше з’явився структурований лог — клієнт вперше побачив реальну картину що саме, коли і як працює в їх контенті.

Тестували Llama Guard як перший шар перед RAG-запитом — він значно легший за full-size модель у ролі судді і для класифікації шкідливих намірів точніший. Але для сайтового асистента що відповідає лише на публічну інформацію без tools injection дає атакуючому тільки можливість зіпсувати власний досвід — реальна небезпека починається коли є доступ до персональних даних або assistant може ініціювати дії від імені юзера. В таких кейсах guard-модель обов’язкова, і краще окремим сервісом щоб не блокувати основний pipeline.

Тестували Llama Guard як перший шар перед RAG-запитом — він значно легший за full-size модель у ролі судді і для класифікації шкідливих намірів точніший. Але для сайтового асистента що відповідає лише на публічну інформацію без tools injection дає атакуючому тільки можливість зіпсувати власний досвід — реальна небезпека починається коли є доступ до персональних даних або assistant може ініціювати дії від імені юзера. В таких кейсах guard-модель обов’язкова, і краще окремим сервісом щоб не блокувати основний pipeline.

Тестували Llama Guard як перший шар перед RAG-запитом — він значно легший за full-size модель у ролі судді і для класифікації шкідливих намірів точніший. Але для сайтового асистента що відповідає лише на публічну інформацію без tools injection дає атакуючому тільки можливість зіпсувати власний досвід — реальна небезпека починається коли є доступ до персональних даних або assistant може ініціювати дії від імені юзера. В таких кейсах guard-модель обов’язкова, і краще окремим сервісом щоб не блокувати основний pipeline.

У нас є клієнти де LLM-інтеграція коштувала $600-800 на місяць на старті — і ми це зрізали до $80-120 без зміни провайдера, просто змінивши архітектуру: семантичний кеш для повторних запитів, роутинг простих класифікацій на Haiku/Flash замість Sonnet/GPT-4, batching там де відповідь не потрібна в реалтаймі. Проблема зазвичай не в ціні токена, а в тому що LLM-виклик стає default рішенням для кожної операції — навіть де вистачає звичайного similarity score або regexp.

Bugmaggedon поки мій улюблений — дуже точно описує ситуацію, коли моделі знаходять реальні вразливості швидше, ніж команди встигають їх патчити. Цікаво, що такі слова зазвичай народжуються як жарт, а через рік перетворюються на серйозний термін у звітах аудиторів.

Те ж саме спостерігаємо: поки код не виходить за периметр внутрішньої команди — все добре, AI чудово справляється. Щойно намагаєшся викотити назовні, з’являються питання до якості і відповідальності за вивід, які раніше просто не ставились. Межа реальна, але дійсно рухається — причому швидше, ніж більшість команд до цього готові.

«Vibe coding» — теж зайшов. Бо добре передає те відчуття, коли пишеш код не через розуміння, а через інтуїцію і підказки моделі. Іноді виходить, іноді ні, але з’явилась нова категорія помилок: ти не знаєш що зламалось, бо не знав, як воно працювало.

Впізнаю себе в цьому. Я не інженер за освітою, але кілька місяців тому зібрав внутрішній інструмент через Cursor — без тікетів, без грумінгу. Головне, що зрозумів: межа між «я не можу це реалізувати» і «мені просто треба більше часу» стала набагато розмитішою. Хоча ревʼю від нормального розробника після цього всього — обовʼязкова річ.

Ми тестували і якісний фірмовий контент, і відверто абсурдні ролики — і за метриками утримання уваги друге нерідко виграє. Найчесніше пояснення, яке я для себе вивів: алгоритм оцінює completion rate, а не цінність. Бренди, які це ігнорують і продовжують робити «якісно», платять за принципи, а не за результат. Я не кажу, що це правильно — але так воно зараз працює.

У мене схожа ситуація — через AI зробив кілька речей у домені де майже нульовий досвід. Найбільше вразило що модель допомагає не просто з кодом, а з логікою — пояснює чому так, а не інакше. Щодо надійності сетапу: якщо ДБЖ тримає роутер живим, детекція через пін точніша ніж через heartbeat, підхід правильний.