Як я зробив офлайн ШІ-капелана для військових на Flutter — і чому атеїст взявся за духовний застосунок

💡 Усі статті, обговорення, новини про Mobile — в одному місці. Приєднуйтесь до Mobile спільноти!

Передісторія: коли логіка перестає пояснювати все

Я — IT-фахівець, бюрократ-світчер, людина, у чиєму світі все завжди було на місці: логіка, норми, правила. Бога в цій системі не було передбачено. Принаймні так я думав до лютого 2022-го.Лютий 2022-го змінив це. Я став ВПО — людиною без ґрунту під ногами, яка опиняється посеред хаосу і починає шукати те, що тримає.

Історія цього додатку почалася з «Молитовника воїна» (com.uralexkuch.player) — моєї першої спроби дати захисникам зручний цифровий інструмент для молитви.

Проте справжнім поштовхом до еволюції став приклад таких людей, як ігумен Макарій («Монах»). Його шлях від керівника скиту до командира підрозділу показала мені, що священник на війні — це не лише молитва, а й безпосередня присутність і підтримка в найважчі хвилини.

Я зрозумів: технології мають служити цій меті. Так «Молитовник» перетворився на «Цифрового Капелана» — систему, де штучний інтелект та віковічні тексти працюють разом, щоб ніхто не залишався наодинці зі своїми думками.

Чому Flutter і чому офлайн — це не компроміс, а вимога

З самого початку були дві незмінні умови:

1. Жодного серверу. Застосунок для військових — це питання не лише зручності, а й цифрової безпеки. Жодне повідомлення не повинно залишати пристрій. Це виключало будь-яку хмарну архітектуру з ШІ.

2. Одна кодова база — дві платформи. Я роблю це один, у вільний час, без бюджету. Flutter був очевидним вибором: один розробник, один код, Android + iOS.

Отже, весь ШІ — на пристрої. Вся база даних — локально. Повний офлайн.

Архітектура: що всередині

On-device LLM: Gemma + Flutter

Як основну модель обрав Gemma — достатньо компактна для мобільного пристрою, при цьому якість відповідей прийнятна для задачі. Інференс запускається локально через відповідний пакет для Flutter.

Головний виклик — баланс між якістю відповідей і розміром моделі та швидкістю на слабкому залізі. Це досі задача: не кожен боєць має флагман у кишені.

RAG з локальною векторною базою

Чистий LLM для цієї задачі не підходить — потрібна прив’язка до конкретних духовних текстів. Тому поверх Gemma реалізований RAG (Retrieval-Augmented Generation):

• Повний текст Біблії
• Молитовник (ранкові/вечірні правила, бойові молитви, акафісти, псалми)
• Матеріали з психологічної підтримки

Все зберігається локально у векторній базі. При кожному запиті система знаходить релевантні фрагменти і передає їх у контекст до моделі. Завдяки цьому капелан не просто генерує текст — він підбирає конкретне місце зі Писання або молитву під ситуацію.

Кризове реагування

При певних сигналах у розмові застосунок автоматично виводить контакти служб екстреної психологічної допомоги. Це не можна було не зробити, враховуючи аудиторію.

STT для голосового вводу

Не кожен боєць може або хоче друкувати. Тому додав Speech-to-Text — взаємодія з капеланом голосом теж працює повністю офлайн.

Що ще в застосунку

Молитовник — бібліотека з категоріями (бойові, ранкові, вечірні, за поранених, за полеглих, псалми), текстовий пошук по назві та змісту, поділ на кроки, аудіовідтворення.

Православний календар ПЦУ — свята, тип посту, літургійний колір, покровителі дня, тропарі, народні традиції, спеціальні молитви.

Слово на день — щоденна цитата з Біблії з коротким коментарем на головному екрані.

Безпека:

• PIN-код при вході
• Локальне збереження всієї історії чатів
• Panic Wipe — миттєве повне стирання локальної БД та ключів доступу. Одна дія в екстреній ситуації — і на пристрої не залишається нічого, крім завантаженої моделі

  

Персоналізація, яка важлива

Дрібниця, але важлива: при першому спілкуванні капелан запитує, як до тебе звертатися — «Брате» чи «Сестро». І дотримується цього впродовж всієї розмови. Жодного «шановний користувачу».

В застосунку для людей у стресових ситуаціях такі деталі — не UX-прикраса, а частина довіри.

Що складно і що досі не вирішено

Чесно про виклики:

• Якість on-device інференсу на бюджетних пристроях — компроміс між розміром моделі і якістю відповідей, ідеального рішення поки немає
• Розмір застосунку через вбудовану модель — це реальна проблема для завантаження там, де інтернет нестабільний
• Оцінка якості духовних відповідей — важко формалізувати метрику. Поки тестую з реальними користувачами та капеланами
• Проєкт соло без бюджету — це і свобода, і обмеження одночасно

Для кого це і навіщо

Передусім — для військових ЗСУ, Нацгвардії, ТрО, морської піхоти. Але також для ВПО, для тих, хто чекає вдома, для людей, які ніколи не вважали себе «церковними» — але відчувають, що зараз їм потрібно щось більше.

Застосунок вже в Google Play.

📲 Google Play — Цифровий капелан 🌐 Сторінка проєкту

Питання до спільноти

Буду радий обговорити в коментарях:

• Хто працював з on-device LLM у Flutter? Який досвід з Gemma або MediaPipe LLM Inference?
• Як оптимізували RAG на мобільних — які векторні бази розглядали?
• Досвід з офлайн STT у Flutter на Android?
• Чи є хтось із досвідом розробки застосунків для людей у стресових ситуаціях — які UX-підходи спрацювали?