Створення користувацьких застосунків AI за допомогою Azure AI

💡 Усі статті, обговорення, новини про AI — в одному місці. Приєднуйтесь до AI спільноти!

Azure AI Foundry тепер загальнодоступна, надає розробникам інструменти, необхідні для створення власних застосунків AI. Цей посібник покаже, як використовувати Azure AI Foundry в поєднанні з вашим кодом для створення програм на основі штучного інтелекту на основі ваших даних. Крім того, ми розглянемо оркестрування моделей у багатоетапних процесах, налаштування автоматизованих розгортань, виконання оцінок і моніторинг виробничих програм як частину GenOps .

Azure AI Foundry: більше, ніж просто інтерфейс користувача

Azure AI Foundry — це більше, ніж просто інтерфейс користувача — він дозволяє використовувати ресурси Azure AI безпосередньо з вашого коду. Це також чудова відправна точка для ознайомлення з розробкою програм ШІ. Ви можете отримати доступ до каталогу моделей на ai.azure.com , який включає понад 1700 моделей від OpenAI , Microsoft, Meta, Mistral тощо.

Вибір правильної моделі

Розділ контрольних показників моделі допоможе вам порівняти моделі на основі різних факторів:

• Точність : продуктивність різних моделей у різних завданнях.
• Когерентність : вимірює, наскільки добре модель генерує природні реакції.
• Обґрунтованість : оцінює, наскільки добре модель відноситься до наданих вихідних матеріалів.
• Вільне володіння : Оцінює майстерність володіння мовою.
• Релевантність : визначає, наскільки модель відповідає очікуванням на основі підказок.

Доступ до AI Services

Azure AI пропонує готові сервіси для розробки мультимодальних програм, включаючи такі когнітивні навички, як:

• Виступ і переклад
• Бачення та OCR
• Безпека вмісту для виявлення шкідливих або невідповідних вводів/виходів

Створення застосунків зі штучним інтелектом за допомогою спеціальних даних

Увійшовши за допомогою облікового запису Azure, розробники можуть створити проект для безпечного підключення до ресурсів Azure. Цей проект організовує активи та забезпечує необхідні ресурси.

Розгортання моделі

1. Виберіть модель із каталогу моделей (наприклад, GPT-4.0).
2. Розгорніть його з налаштуваннями за замовчуванням.
3. Випробуйте модель на тестовому майданчику .
4. Визначте системне повідомлення , яке керуватиме реакціями штучного інтелекту (наприклад, «Будь веселими та використовуй емодзі для контексту»).

Покращення відповідей моделі за допомогою пошуково-доповненої генерації (RAG)

Щоб покращити реакції штучного інтелекту, його потрібно обґрунтувати довідковими даними:

1. Перейдіть, щоб додати свої дані на тестовий майданчик.
2. Завантажте відповідні файли даних або підключіться до існуючого пошукового індексу Azure AI.
3. Увімкніть векторний і гібридний пошук на основі ключових слів.
4. Використовуйте векторний пошук, щоб зіставити підказки з найближчими точками даних.

Інтеграція AI у ваш код

Налаштування середовища розробки

1. Установіть OpenAI SDK і Azure Identity Library .
2. Використовуйте VS Code, щоб інтегрувати модель AI у вашу програму.
3. Скопіюйте код із Playground і запустіть його у VS Code.
4. Зберігайте відповіді у форматі JSON для бездоганної інтеграції.

Організація багатоетапних процесів ШІ

Реальні програми вимагають кількох кроків із різними моделями та підказками. Використання оркестраціі допомогає проводити:

• Дослідження тенденцій для збору інформації.
• Пошук товару по каталогам .
• Створювати статті на основі даних, керованих ШІ.
• Постійно вдосконалювати створений ШІ контент.

Запуск Оркестранта

1. Розгорніть ресурси за допомогою команди A Z D UP .
2. Використовуйте шаблони підказок для вдосконалення вмісту, створеного ШІ.
3. Запустіть робочий процес за допомогою штучного інтелекту, щоб створити статтю на основі кураторських досліджень.

Налагодження та моніторинг

Використання трасування для налагодження

Трасування допомагає візуалізувати взаємодію моделі та точно визначити помилки. Розробники можуть :

• Переглядати покрокові відповіді ШІ.
• Аналізувати виклики моделей і оперативні завершення.
• Налаштувати підказки для кращої продуктивності.

Оцінка продуктивності моделі

Azure AI оцінюють:

• Актуальність
• вільне володіння
• Когерентність
• Приземленість

Оцінки продуктивності (шкала від 1 до 5) допомагають ітераційно вдосконалювати модель.

Моніторинг в продуктиві

Application Insights забезпечує:

• Оціночні бали за прогонами

• Статистика використання токенів

• Показники продуктивності моделі

• Пошук транзакцій на наявність помилок трасування

Висновок

Завдяки Azure AI розробники мають усе необхідне для створення спеціального досвіду AI безпосередньо зі свого коду. Для початку:

• Відвідайте ai.azure.com
• Перегляньте зразки коду на сайті aka.ms/ apppp -templates

Почніть створювати сьогодні та розкрийте весь потенціал застосунків на основі ШІ!