Grammarly Meetup: Робота з багатьма LLM у продукті: як будувати архітектуру та підтримувати якість (подія в архіві)

💡 Запрошуємо на мітап, присвячений практичним аспектам роботи з великими мовними моделями в Grammarly. Обговоримо, як покращувати якість згенерованих текстів за допомогою лінгвістичних стратегій і постобробки, а також як налаштовувати доступ до різних LLM через єдиний API, забезпечуючи стабільність і контроль у продукті. Ви дізнаєтесь про підходи до промптингу, фільтрації помилок та побудови in-house інфраструктури для масштабованої роботи з LLM.

📍Реєстрація на подію є обовʼязковою за посиланням: https://gram.ly/438NsMu

🎤Доповідачі

🔹Лакуста Валерія, Computational Linguist
Доповідь: Не просто згенеровано: як отримати якісний текст від LLM

Як зробити тексти, згенеровані великими мовними моделями, кращими? Поговоримо про те, як впливати на якість ще на етапі створення промптів, а також — як працювати з уже згенерованим текстом: вдосконалювати його, виявляти помилки та фільтрувати небажані результати. Розглянемо лінгвістичні підходи, які допомагають отримати кращий, контрольований результат від LLM.

🔹Якимів Юрій, Software Engineer
Доповідь: Як приховати складність за простим доступом

У цьому виступі поговоримо про те, як спростити доступ до різних LLM, приховуючи технічну складність їхньої інтеграції. Розглянемо підхід із єдиним API для всіх моделей, автоматичне перемикання трафіку в разі збоїв і стратегії тестування нових моделей перед впровадженням. Особливу увагу приділимо тому, чому in-house рішення — найкращий шлях до стабільної, масштабованої та контрольованої роботи з LLM у продакшн-середовищі.

🟢 Формат: офлайн, Grammarly Kyiv Hub, пл. Cпортивна 1a, БЦ Gulliver, вежа Б, 14-й поверх

🟢Коли: вівторок, 27 травня, 18:30 (реєстрація починається о 18:00)

🟢Мова заходу: українська

До зустрічі!