«Нема потреби у величезних LLM»: Чому для розробки додатків .NET рекомендують невеликих агентів

💡 Усі статті, обговорення, новини про AI — в одному місці. Приєднуйтесь до AI спільноти!

Стів Сандерсон виступив на нещодавній конференції NDC London 2025 — він демонстрував можливості розробки додатків .NET за допомогою менших моделей AI та автономних агентів. Сандерсон закликав розробників усвідомити, що їм не завжди потрібні величезні LLM, такі як GPT-4.

Малі мовні моделі можна запускати на власних серверах розробника — або навіть у браузері. Це своєю чергою дає переваги щодо вартості, конфіденційності даних та затримки у відповіді.

«Чи можемо ми зробити її чимось, що працює швидше та дешевше, що працює безпосередньо на наших серверах.[...] Насправді, хоча ви, напевно, не повинні, ви навіть могли б запустити її безпосередньо в браузері вашого кінцевого користувача», — каже Сандерсон.

Це особливо актуально для розробників Visual Studio, які працюють над внутрішніми бізнес-додатками або з обмеженими ресурсами, де вивантаження даних для хмарної потужної LLM не є ідеальним рішенням.

Агентний AI

Використання малих моделей органічно підводить до агентних структур. На відміну від одноразових запитів до великих моделей, агентні системи працюють автономними циклами:

• вони самі викликають функції;
• збирають контекст рішення, над яким вони працюють;
• та міркують про цілі, які їм треба виконати.

«Одним з основних шаблонів, про які зараз часто говорять, є агенти або агентні системи, і це ідея, що замість того, щоб просто зробити один виклик до служби AI та сказати: „просто дайте мені одну відповідь за раз“, як щодо того, щоб ми дали їй можливість самостійно виконувати цілу низку завдань?» — зазначив Сандерсон.

Так, під час демонстрації Сандерсон показав агента оновлення програмного забезпечення, який досліджує нову версію фреймворку, сканує кодову базу, пропонує зміни відповідно до оновлення та навіть пропонує запити на merge.

За його думкою, багатокроковий, самокерований AI є майбутнім інструментом розробки: «Це область, до якої зараз багато людей прагнуть, і це, можливо, трохи попереду».

Читайте: Mistral Small 3.1. Розробники з ЄС випустили нову «надлегку» AI-модель