Основи побудови агентів: від концепції до перших кроків. Частина 1

💡 Усі статті, обговорення, новини про AI — в одному місці. Приєднуйтесь до AI спільноти!

Що таке агент і коли варто його створювати?

У швидкозмінному світі програмного забезпечення агенти представляють новий клас систем, що працюють на основі великих мовних моделей (LLM) і здатні виконувати складні, багатоетапні завдання з надзвичайною автономністю. На відміну від традиційної автоматизації, яка покладається на жорсткі, заздалегідь визначені правила, агенти можуть виконувати робочі процеси від імені користувача, маючи тонке розуміння контексту та гнучкий підхід до розв’язання проблем. Ця фундаментальна відмінність робить їх ідеальними для завдань, які історично були не підходящими до автоматизації.

Агент відрізняється від простого чат-бота чи однокрокової LLM двома ключовими характеристиками:

• Управління виконанням робочого процесу: Він використовує LLM для управління всім робочим процесом. Він може приймати рішення, виправляти власні дії за потреби та розпізнавати, коли завдання завершено. У разі непередбаченої помилки він може зупинити виконання та передати управління користувачеві, забезпечуючи надійну та безперебійну роботу.
• Динамічна взаємодія з інструментами: Він має доступ до різноманітних інструментів, які по суті є зовнішніми функціями або API. Ці інструменти дозволяють агенту збирати контекст і виконувати дії, наприклад, робити запити до бази даних, надсилати електронні листи чи оновлювати записи в CRM. Агент динамічно обирає та використовує відповідні інструменти залежно від поточного стану робочого процесу, працюючи в межах чітко визначених захисних бар’єрів.

Коли ви оцінюєте, де агенти можуть бути корисними, важливо зосередитися на робочих процесах, де традиційні детерміновані та засновані на правилах підходи виявляються неефективними. Яскравим прикладом є аналіз шахрайства з платежами. Звичайна система правил може позначати транзакцію лише у випадку, якщо вона відповідає конкретним критеріям, наприклад, незвичайне місце розташування або велика сума. Однак агент на основі LLM діє радше як досвідчений слідчий. Він може оцінювати контекст транзакції, враховувати ледь помітні поведінкові закономірності та виявляти підозрілу активність навіть там, де немає чіткого порушення правил. Ця здатність справлятися з неоднозначністю та ухвалювати виважені рішення є головною перевагою агента.

Розгляньте можливість зосередитися на робочих процесах, які відповідають таким критеріям:

• Комплексне ухвалення рішень: Ідеально підходять випадки, що вимагають виважених суджень, обробки винятків або рішень, чутливих до контексту. Наприклад, агент міг би автоматизувати схвалення повернень коштів у процесі обслуговування клієнтів, де рішення залежить від багатьох факторів, як-от історія покупок, лояльність клієнта та характер проблеми.
• Складність підтримки правил: Якщо ваші поточні системи стали занадто громіздкими через велику кількість складних правил, агент може надати більш масштабоване та кероване рішення. Класичний приклад — процес перевірки безпеки постачальників, де традиційна система може містити тисячі правил, оновлення яких є дорогим і схильним до помилок.
• Велика залежність від неструктурованих даних: Сценарії, що включають інтерпретацію природної мови, отримання сенсу з документів або розмовну взаємодію з користувачами, ідеально підходять для агентів. Обробка заяви на страхування житла, наприклад, вимагає від агента читати й розуміти різні документи, електронні листи та нотатки від оцінювачів.

Фундаментальні компоненти агента

За своєю суттю, агент будується на трьох основних компонентах: модель, інструменти та інструкції.

1. Модель

Модель — це велика мовна модель, яка забезпечує логіку та здатність агента ухвалювати рішення. Вибір моделі має вирішальне значення та передбачає компроміс між складністю завдання, затримкою та вартістю. Хоча може виникнути спокуса використовувати найпотужнішу модель для кожного завдання, більш стратегічний підхід полягає у використанні різних моделей. Наприклад, просте завдання з класифікації можна виконати за допомогою меншої, швидшої моделі, тоді як складніше завдання, таке як схвалення великого повернення коштів, може вимагати більш потужної та дорогої моделі.

Високоефективна стратегія полягає в тому, щоб почати з прототипування вашого агента з найпотужнішою моделлю, яка доступна для кожного завдання. Це дозволить встановити чіткий базовий рівень продуктивності. Після цього можна експериментувати, замінюючи її меншими моделями, щоб перевірити, чи досягають вони прийнятних результатів. Цей ітеративний процес дозволяє уникнути передчасного обмеження можливостей агента і дає змогу точно визначити, де менша модель може спрацювати, а де — ні. Принципи вибору моделі прості: спочатку встановіть базовий рівень продуктивності, потім зосередьтеся на досягненні цільової точності з найкращими моделями, і, нарешті, оптимізуйте вартість і затримку, замінюючи більші моделі на менші, де це можливо.

2. Інструменти ️

Інструменти — це зовнішні функції або API, які розширюють можливості вашого агента. Добре розроблений інструмент повинен мати стандартизоване визначення, що забезпечує гнучкі зв’язки «багато-до-багатьох» між інструментами та агентами. Це покращує їхню знахідність, спрощує управління версіями та запобігає дублюванню визначень.

Зазвичай агентам потрібні три типи інструментів:

• Інструменти для даних: Вони дозволяють агентам отримувати контекст та інформацію, необхідну для робочого процесу. Приклади включають запити до баз даних транзакцій, отримання даних із CRM, читання PDF-документів або пошук в Інтернеті.
• Інструменти для дій: Вони дозволяють агентам взаємодіяти з системами для виконання дій. Приклади включають надсилання електронних листів, оновлення запису в CRM або передачу звернення до людини.
• Інструменти для оркестрації: Агенти самі можуть слугувати інструментами для інших агентів. Це дозволяє розбивати складний робочий процес і керувати ним за допомогою кількох спеціалізованих агентів. Наприклад, «Агент повернення коштів» може бути інструментом, який використовується «Агентом-менеджером служби підтримки клієнтів».

3. Інструкції

Високоякісні інструкції — це основа життєздатності агента. Чіткі інструкції зменшують двозначність і покращують ухвалення рішень, що призводить до більш плавного виконання робочого процесу та меншої кількості помилок. Думайте про інструкції як про посібник з експлуатації для агента.

Найкращі практики для написання інструкцій агента включають:

• Використання наявних документів: При створенні рутин використовуйте наявні операційні процедури, скрипти підтримки або документи політики. Наприклад, рутина для обслуговування клієнтів може базуватися на окремих статтях у базі знань вашої компанії.
• Підказки агентам розбивати завдання: Замість однієї великої підказки надавайте серію менших, чіткіших кроків. Це мінімізує двозначність і допомагає моделі ефективніше виконувати інструкції.
• Визначення чітких дій: Переконайтеся, що кожен крок у вашій рутині відповідає конкретній дії або результату. Наприклад, крок може наказувати агенту «запитати у користувача номер замовлення» або «викликати API retrieve_account_details». Чітке визначення дії залишає менше місця для інтерпретації та помилок.
• Облік крайніх випадків: Реальні взаємодії сповнені несподіваних сценаріїв. Надійна рутина передбачає типові варіації та включає інструкції щодо того, як з ними впоратися. Наприклад, рутина може містити умовний крок, який описує, що робити, якщо частина необхідної інформації відсутня.

Зосередившись на цих трьох основних принципах — стратегічному виборі моделі, надійному наборі інструментів і чітких, добре структурованих інструкціях — ви зможете закласти основу для створення високопродуктивного та надійного агента.