Ми постійно займаємось перевіркою якості роботи нейронної мережі, це відбувається на етапі щоденної ручної перевірки ризикових анкет командою модерації. Команда приймає остаточне рішення про необхідність ізолювати ризикового користувача. Щодо якості роботи самої команди, то у нас є для цього відділ контролю якості роботи, головна робота якого і є контроль якості перевірок, виявлення можливих помилок і пропрацювання їх з командою. Також такий щоденний моніторинг нам дає зрозуміти, наскільки якісно працює модель, чи потрібно щось перенавчати або змінювати в її роботі.

Примусова фотоверифікація ж налаштована так, що не дає можливості спілкуватись з іншими користувачами, поки профіль не буде успішно верифікований. Тобто юзер має підтвердити свою особистість зробивши селфі фото, і його фото має співпадати з його/її фото в профілі. Ці фото в ручному режимі перевіряється модератором, а їх якість роботи в свою чергу теж перевіряється відділом контролю якості.

Привіт. Дякую за коментар.
Наша нейронна модель не приймає самостійно рішення ізолювати юзера чи ні. Вона лише визначає вірогідність з якою юзер є потенційно «ризиковим» для продукту. Ризиковість же визначається на історичних даних поведінки скамерів, але оскільки скамери постійно адаптуються, AI модель не є панацею в вирішенні цієї проблеми. Далі перевіркою юзера займається вже команда модераторів.
Для того, щоб робота була якісною, і не було помилок, у нас є команда контролю якості, яка слідкує за показниками та перевіряє індивідуальну роботу модераторів. Таким чином ми постійно мінімізуємо можливі помилки та покращуємо роботу нейронної моделі.