Шахраї відправляються у «Скамерленд». Як мінімізувати скам в онлайн-знайомствах завдяки модерації

Привіт! Мене звати Анна Невгад, я Moderation Manager сервісу онлайн-знайомств у компанії Quarks. Наші основні ринки — це країни Америки, Африки та Східної Європи. Додатком скористались вже понад 170 млн користувачів у більш ніж 20 країнах світу.

Я відповідаю за стратегічне планування цілей та завдань щодо розвитку всього напряму модерації фотоконтенту та сервісів антискаму. Тема фроду та скаму актуальна для багатьох B2C-продуктів в різних нішах, чи то дошки оголошень, чи онлайн-знайомства.

В матеріалі розглянемо, які існують особливості фроду і скаму в дейтингу, як вони впливають на користувачів та продукт, а також як наша команда навчилися виявляти та нейтралізовувати шахраїв.

Хто такі фродери та скамери в дейтингу

Зазвичай поняття фроду та скаму використовують як тотожні, обидва означають певний різновид шахрайства, але насправді існує відмінність.

У західних джерелах «Fraud» — це ширше поняття, ніж «Scam». У фрод включають шахрайство, пов’язане з фінансовими махінаціями. Це масові спроби оплати з кількох карток на різні імена в одному акаунті або промислове шахрайство з кредитними картками, коли масово проводять транзакції в різних акаунтах, використовуючи базу викрадених карток, та відмивання грошей.

Крім таких фінансових махінацій, фрод може бути направленим на те, щоб вплинути на репутацію компанії, а також мати на меті отримати особисті дані багатьох людей (зазвичай, це теж цілі бази даних), щоби надалі використовувати їх у своїх цілях.

Скам — це шахрайство, що здійснюється окремою особою або групою людей в бік конкретного користувача, і зазвичай може мати форму або неправдивої обіцянки, або навіть погрози та примусу щось зробити. Як правило, такими засобами користуються скамери у дейтингах.

Також в дейтингу можна зустріти й інші види скаму, а саме:

  • реєстрація анкет представниками шлюбних агенцій та свах;
  • прохання надіслати гроші на таксі, замовити квіти винятково в конкретному місці;
  • прохання поповнити мобільний рахунок або перерахувати гроші на картку;
  • масова розсилка контактних даних (пошта, Skype тощо) або виманювання контактних даних;
  • продаж фото/відео;
  • реклама різних видів послуг (спортивні ставки, розклад на таро, хіромантія, трейдинг) та розсилка лінків на сторонні ресурси, чим часто користуються конкуренти, коли переманюють користувачів на свій продукт.

Розглянемо детальніше деякі складні схеми скаму, які зустрічаються в дейтингах, а також те, як вони впливають на метрики продукту.

Схема «антикіно»

Цей механізм дуже популярний в країнах Східної Європи. Чоловік знайомиться з дівчиною на дейтинговому сайті. Через деякий час після знайомства та спілкування, вона пропонує сходити в кіно / театр / готель / джакузі / кальянну тощо, а потім пропонує купити квитки на одному з сайтів. Після придбання квитка, дівчина відмовляється зустрітися, а на запитання, що робити з квитками, відповідає, що можна оформити повернення. І саме тут починається основна схема шахрайства.

Користувач пише у віджет підтримки сайту з вимогою повернення коштів, йому надсилають посилання форми нібито на повернення, але насправді людина отримує платіжну форму для вводу даних, щоб зробити покупку. Служба підтримки також зазначає в діалозі, що для повернення коштів на рахунку користувача має бути сума, що дорівнює покупці або більше.

Якщо людина після кількох списань досі сподівається, що це просто помилка, їй з вибаченнями надсилають ще одне посилання та списують із нього гроші втретє, де сума третього списання дорівнює сумі двох попередніх.

Dating- або romance-скамери

Наступну шахрайську схему яскраво змалювали у популярному фільмі Netflix — «Tinder Swindler». Dating- або romance-скамери, як правило, створюють несправжні профілі в інтернеті, можуть використовувати вигадане ім’я або чиюсь особистість. Часто вони прикидаються військовими в гарячих точках або працівниками міжнародних гуманітарних організацій.

Механізм шахрайства такий:

1. Створити сильну емоційну прив’язаність за відносно короткий проміжок часу.

2. Запропонувати перевести спілкування з сайту до більш приватного каналу (телефон, електронна пошта або один з месенджерів).

3. Попросити гроші на медичну допомогу собі/ родичу, подарунки, гроші на авіабілет; розповісти історії про пограбування, попросити надіслати дані банківської/ кредитної картки або фотографії чи відео інтимного характеру.

Людина відчуває себе зобов’язаною допомогти новому знайомому у скрутній ситуації, тому відправляє гроші й погоджується на умови шахрая.

Також схема може бути пов’язана з начебто бажанням шахрая відправити користувачу гроші або коштовності, але юзер має сплатити за доставку або перерахувати комісію.

Проте нерідко робота дейтинг-скамера — це робота не однієї людини, а цілої групи осіб. Такі шахраї часто стверджують, що вони родом з Австралії, США чи країни Західної Європи. Насправді ж більшість таких користувачів — з африканських країн, зокрема з Нігерії. Такий вид шахрайства отримав назву «419 scam» — на честь розділу кримінального кодексу Нігерії, який стосується шахрайства.

Протягом останніх п’яти років користувачі втратили $1,3 млрд через romance-скам. За даними Федеральної торгової комісії в США romance- і dating-скамери завдали рекордних збитків у 2021 році — $547 млн. Середній показник збитків становив $2400 на людину.

Що характерно, шахраї адаптуються і знаходять жертв не тільки в дейтингу. В 2021 році третина людей, що стали жертвами romance-скамерів, повідомили, що познайомилися з ними через соцмережі, такі як Facebook або Instagram.

Шахрайство з кредитними картками

Злочинні схеми із кредитними картками широко розповсюджені в усіх високоризикових сегментах, зокрема у дейтингу.

Як правило, шахраї створюють фейкові профілі, на яких сплачують за послуги з викрадених карток. Нерідко це явище має масовий характер: за короткий проміжок часу реєструють велику кількість нових акаунтів, з яких здійснюється багато спроб оплатити з різних карток.

Таким чином можуть проводити через сервіс цілі бази крадених даних, щоб перевірити наявність грошей. Цей вид фроду дуже небезпечний, оскільки у разі виявлення шахрайства власник картки зазвичай ініціює процедуру чарджбеку. Крім того, це несе ще й збиток у додаткових комісіях за відмови транзакцій.

Одним з інструментів боротьби з подібною проблемою є відправка платежів на 3DS-верифікацію. 3D Secure додає для онлайн-платежів ще один крок — аутентифікацію користувача. Це дозволяє банку переконатися, що платіж ініціював саме власник картки.

З одного боку, 3DS допомагає забороняти не авторизовані платежі, з іншого — масово застосовувати подібний механізм не вигідно, адже це знижує загальну прохідність платежів у продукті.

Як скам та фрод впливають на продукт

Шахраї — це активна аудиторія, в яку входять «постійні користувачі», хоча періодично вони можуть змінювати свою зовнішність на сайті.

Ще у 2018 році ми зіштовхнулися з проблемою масових фродових оплат. Ми зафіксували аномально велику кількість спроб транзакцій, при чому серед них було мало успішних. При кожній спробі ми витрачали кошти на комісію з подібних транзакцій, а також отримували дуже високий рівень повернення коштів.

Ми провели внутрішнє дослідження та отримали декілька важливих інсайтів, які в майбутньому допомогли нам віднайти інструменти нейтралізації шахраїв.

  • Велика кількість використаних карток і транзакцій

Зазвичай перебір великої кількості карток більш характерний для дій шахраїв, аніж для звичайного користувача. Це несе ризики для бізнесу через можливі чарджбеки зі сторони користувачів при успішних транзакціях, а також додаткову комісію при спробі проведення оплати, що в результаті може негативно позначитись на фінансових показниках.

  • Існує кореляція між поверненням коштів та швидкістю оплати в продукті

Як виявилось, 24% всіх повернень припадає на користувачів, які здійснили свою покупку протягом 60 секунд після реєстрації.

  • Скамери створюють активність у продукті

Як не дивно, але найактивнішою аудиторією продукту є саме скамери. Вони активніше за звичайних користувачів першими пишуть повідомлення, створюють взаємні пари з іншими юзерами. Основна мета — якнайшвидше знайти жертву (і краще не одну), встигнути встановити контакт та перевести спілкування на зовнішній ресурс (пошту або месенджер) до моменту, як їх ізолюють на сайті.

У листопаді 2021 року ми змогли в цьому наочно переконатися, після того, як зробили «тіньовий бан» для шахраїв. «Тіньовий бан» — це ізоляція скамерів, за якої вони не можуть контактувати зі звичайними юзерами та не впливають на їхній досвід користування продуктом. До запуску цього механізму ми не «банили» підозрілих користувачів відразу після реєстрації, а лише підвищували їхні шанси на блокування.

У результаті запуску «тіньового бану» ми побачили падіння метрик за вхідними та вихідними активностями звичайних юзерів, зокрема чоловіків:

  • зменшилася середня кількість лайків від жінок до чоловіків, і в результаті — знизилася кількість візитів у профіль чоловіків за сесію;
  • чоловіки стали отримувати менше повідомлень від жінок.

  • протилежна ситуація склалась з вихідною активністю: ми отримали менше активності серед жінок, оскільки жінки-скамери були ізольовані;
  • середня кількість вихідних негативних реакцій (дизлайків) за сесію у чоловіків збільшилась. Це пов’язано з тим, що поменшало привабливих користувачів на сайті внаслідок ізоляції скамерів — вони зазвичай намагаються знайти найбільш привабливе фото для свого акаунту.

Отже, скамери проявляють значно більше активності в порівнянні з нормальним користувачем. В результаті вони сильно впливають як на звичайних користувачів, так і на продукт в цілому, створюючи «шум» у даних та аналітиці. Оскільки скамери прагнуть користуватись продуктом на регулярній основі, це може давати позитивний ефект на кількісні метрики в короткостроковій перспективі, але негативний — у довгостроковій.

Шахраї впливають і на те, що складно порахувати кількісно, — це відгуки на зовнішніх сайтах, оцінки в PlayMarket та AppStore, загальна репутація продукту. Окрім того, це і обурливі відгуки, що надходять до служби підтримки. Якщо користувач асоціює свій негативний досвід спілкування з продуктом, він може піти і не повернутися.

Робота команди модерації

Оскільки скамери реєструються кожного дня, ми працюємо цілодобово над тим, щоб убезпечити звичайних користувачів від них.

Наразі маємо декілька інструментів боротьби:

  • Нейронна модель, що навчається на історично зібраних даних та перенавчається в процесі. Вона допомагає вже на етапі реєстрації розуміти, наскільки ризиковим є для нас користувач.
  • Щоденна ручна перевірка ризикових анкет командою модерації. Її ми проводимо після роботи нейронних мереж. Команда приймає остаточне рішення про необхідність заблокувати ризикового користувача.
  • Верифікація фото. Цей механізм дає змогу перевірити реальність створеної анкети та підтвердити особу на фото шляхом порівняння щойно зробленого селфі з раніше завантаженим фото в профілі.

Після появи фотоверифікації ми нарешті побачили, як насправді виглядають ті, з ким ведемо постійну боротьбу. Зліва на малюнку нижче — фото, що було зроблене на фотоверифікацію, а справа — фото, яке було в профілі користувача до цього.

  • «Тіньовий бан» — наш найновіший інструмент боротьби з шахраями.

Комбінація усіх інструментів дала нам змогу пришвидшити фіксацію скамерів. Наразі 70% від усіх блокувань відбувається в перші 5 хвилин після реєстрації. Інші 30% ізолюються пізніше, оскільки вони проявляють шахрайську активність через деякий час.

Чим корисний «тіньовий бан»

До моменту запровадження процедури «тіньового бану» існувала лише механіка повного блокування. Вона повністю відрізала користувачу доступ до сайту одразу після реєстрації або через деякий час. Крім того, працювало примусове призупинення анкети на період її перевірки на скам-активність.

Після повного блокування скамер не лише втрачав доступ до сайту, але й міг швидше розуміти, які саме дії призвели до «бану». Це допомагало йому адаптуватися і займатися шахрайством надалі. Блокування анкети супроводжувалося скаргою та запитом на повернення коштів. Особливо гострою була проблема повернення в AppStore, де рефанд відбувався без участі продукту, а лише за запитом скамера.

Після блокування скамер створював нову анкету, де знову купляв послуги і повторно отримував рефанд. Це призводило до збільшення показника повернень і спричиняло ризики для самого застосунку.

При «тіньовому бані» шахрай не може дізнатися, в який момент його було викрито.

Ми створили «Скамерленд» — середовище, відокремлене від основної аудиторії користувачів, яке візуально не відрізнялося від звичайного продукту.

Які результати ми отримали:

  • Скамери можуть продовжувати користуватися продуктом, спілкуватися між собою і при цьому не мати доступу до звичайних користувачів. А головне — вони не розуміють, що ми зафіксували шахрайську активність.
  • Виникла тенденція зменшення кількості нових ізольованих анкет до кількості нових зареєстрованих юзерів. Це пов’язано з тим, що скамери стали створювати менше нових анкет. Раніше при блокуванні скамер одразу створював декілька анкет, щоб використати їх згодом.

Висновки

Фрод та скам у дейтингу є дуже різноманітним, і несе значні фінансові та репутаційні збитки для компаній та звичайних користувачів. Робота над безпекою користувачів — це щоденний процес, котрий потребує постійної адаптації до нових дій та схем з боку шахраїв. Це постійні перегони, в яких скамери завжди намагаються бути на один крок попереду, а продукт намагається адаптувати свої інструменти в боротьбі з ними.

Головна мета бізнесу в цій ніші — нейтралізувати скамерів, щоб вони якомога довше залишалися ізольованими і не завдавали шкоди користувачам.

Сподобалась стаття? Натискай «Подобається» внизу. Це допоможе автору виграти подарунок у програмі #ПишуНаDOU

👍ПодобаєтьсяСподобалось9
До обраногоВ обраному0
LinkedIn
Дозволені теги: blockquote, a, pre, code, ul, ol, li, b, i, del.
Ctrl + Enter
Дозволені теги: blockquote, a, pre, code, ul, ol, li, b, i, del.
Ctrl + Enter

Вы могли бы использовать анти-фрод сервисы, которые дают неплохие предварительные данные.

Яка гарна казочка. Але скорочу її до суті:
1) На першому етапі відсів робить нейромережа. Тобто, в онлайн-знайомствах лише ті мають право відбутися, які сподобалися нейромережі. Інакше кажучи, максимально посередні. Індивідуальність — зло. Так можна і до мавп деградувати.

2) «Тіньовий бан», тобто вороже ставлення системи до користувача. Це дозволяє софту захищати свої помилки, приховуючи їх від своєчасного виявлення. Створюється негативне враження від користування, стимулюючи користувача просто піти, без зворотного зв′язку.

Вишенька на тортик: механізм тіньового бану дозволяє робітникам мати необмежену владу, тобто самодурство. Наприклад, робітник — активний гей, він тупо банитиме інших. Або навпаки, раніше сидів у тюрмі і його там... ну от і банитиме всіх, кого вважає сильнішим за себе.

Ну і на подаруночок — якщо якась політична сила (або ОПГ) захоче мати перевагу, їм не буде проблеми заслати своїх робітників. Текучка зазвичай велика, бо платять на такій роботі небагато, то ж зайти туди можуть просто натовпом. В результаті тіньові бани отримуватимуть потенційні опоненти, або ж просто «неправильні» соціальні групи, наприклад, люди з вищою освітою заважають так званим «демократам».

Якщо коротко: проблема не має простого дешевого вирішення, і тим більше, не керована за статистичними показниками. Сам сервіс базується на конфлікті протилежностей, а від так, саме грубі методи відсіву — гарантовано знищать найкращих клієнтів, залишивши лише посередніх та звісно ж злочинців. З часом саме злочинці матимуть перевагу, бо вони вкладають більше зусиль до адаптації.

Ринок лимонів — от що виходить насправді. Що власне і було б, якби в сервісі взагалі не було правил.

Як цьому зарадити? Відповім питанням на питання: А за рахунок кого і чого монетизується сервіс?

Тіньовими банами і подібною іншою фігньою ви перш за все втрачаєте користувачів.
Фотоверифікація і подібне «баловство» лише затруднить спамерам їх роботу. але не нейтралізує її тому що можна просто добитися переходу спілкування у месенджери і там уже все це проводити.
А так то ви просто затрудняєте процес знайомства реальним користувачам і тому будете їх втрачати. Я підозрюю що ваша нейромережа блокує багато звичайних користувачів які потім через це перестворюють акаунти і ви робите з них спамерів...

Там просто окрім «скамерленду» є ще «бомжленд» — для тих, хто недостатньо задонатив, та напевно інші ленди, для тих кому важко зробити пару нормальних фото)

Нормальних з точки зору нейромережі

Підписатись на коментарі