На це дуже впливає рівень реалізацію. В Claude code deny-allo правила це не інструкція моделі, яку вона може проігнорувати. Це зашито в логіку на cli клієнті. Забороняючий рул накштал bash(rm -rf) буде фізично заблокований.
Hooks додає ще один рівен де шелл-скріпт виконується до виклику tool і може цей виклик заблокувати
Але...стовідсоткової гарантії немає, бо ніще не заважає моделі знайти воркераунд і напісати виконати пітон скрипт, який вона виконає. Але наше завдання звести подібне до нуля
Дякую за цікаве питання
Дякую за фідбек, Дмитре.
Але в цьому і була суть вебінару та статті.
Разом з AI все і було зроблоно: дослідження джерел, скрипт, слайди, і навіть живе демо мультиагентної системи в прямому ефірі. Все це і є agent engineering в дії, де ми перходимо від «зроби за мене все» до "я зроблю це за допомогою ось цих інструментів.
Якщо якісь місця здаються занадто штучними — я буду вдячний за ваш фідбек з конкретними місцями, що зачепили вас.
Можліво треба було підібрати іншу аналогію більш прозору.
Наприклад «це як вміння гуглити в 2010» або «як написати баш команду». Але нажаль універсальної підбірати складно. Бо може умовний розробник фронту ніколи і не виконував sql запиту а умовний менеджер жодного разу не відкривав терміналу.
Щодо оцінки якості промтів, то це вимірюється на результаті конкретної задачи. Хоч llm і не є детерміновою сістемою, але ви легко можете для себе провести експеремент з формування10-15 різного рівня деталізації промтів однієї задачи, проженути кожен 3-5 разів і оцінити результат.