Нейромережі зможуть користуватися гаманцем — анонсована нова бібліотека для платіжок на Python

💡 Усі статті, обговорення, новини про AI — в одному місці. Приєднуйтесь до AI спільноти!

Бібліотека для витрат

Платіжна система Stripe анонсувала власну бібліотеку — Stripe Agent Toolkit. З її допомогою LLM-ки зможуть витрачати реальні гроші. Зазначимо, що розраховуватися вони могли і раніше, але це було не так безпечно.

Тому, нова бібліотека задумана саме для дуже контрольованої роботи моделей в агентному режимі — щоб нейромережа могла робити замовлення за користувача.

Як працюють агенти і як їм допомагає бібліотека Stripe

Розглянемо «агентний процес» на прикладі придбання квитка:

• Модель перетворює запит користувача на змінні — «витягує» місце відправлення, дату, бюджет та інші фільтри;
• Дає запит у базу даних, збирає оптимальні квитки;
• Показує варіанти користувачеві та допомагає зробити вибір;
• Витрачає за вас гроші — після підтвердження платіжки.

Теж саме, але блок схемою:

Де у цьому процесі залучається нова бібліотека? Дуже просто.

Це регуляції витрат.

LLM-застосунки могли та можуть витрачати гроші користувачів, але цим моделям потрібно дуже сильно вірити, що вони не зроблять не відповідний запит, та не витратять гроші «кудись не туди».

Наприклад, потрібного квитка не існує, а нейромережа вигадала його і «продала», щоб задовольнити користувача. Ми вже знаємо, що моделі можуть брехати, та ще існують банальні галюцинації, ой-йой)

Тому існує цілий набір способів регуляції витрат:

• Перед оплатою юзер проводить «real-time» авторизацію транзакції — перед кожною витратою він повинен дати прямий дозвіл витратити гроші;
• Видача віртуальної дебетової картки для одноразового використання;
• Додатково система відстежує використання токенів LLM, — робота агентів також грошей коштує, генерація запитів не з неба впала. Звісно, підрахунок йде для кожного клієнта окремо. Чи брати гроші за користування LLM напряму з користувача — то вже ваша справа, але якось воно приємніше, коли точно відомо скільки коштувала генерація запитів нейромережі;
• Також, можна обмежити перелік API-запитів, які агент може робити — для цього є обмежені ключі API. Кажучи просто — ми обмежуємо функціонал, який зможе використовувати агент.

Також, нова бібліотека Stripe працює із фреймворками Vercel AI SDK, LangChain та CrewAI — вони спрощують створення агентів. Поки що доступний лише обмежений базовий функціонал. Обіцяють «більше, але пізніше».

У підсумку:

Агенти, які можуть безпечно витрачати гроші — це круто. «Невідповідні запити не пройдуть!»

Важливо — розробники дають рекомендації використовувати бібліотеку спочатку в тестовому режимі. Також краще використовувати обмежені API-ключі для безпеки, та налаштовувати інструменти під конкретні завдання.

Безпечних витрат!