«Ми бачимо все»: підрядники Meta мають доступ до інтимних моментів користувачів окулярів Ray-Ban

💡 Усі статті, обговорення, новини про AI — в одному місці. Приєднуйтесь до AI спільноти!

Журналісти зі шведського видання Svenska Dagbladet випустили розслідування, в якому з’ясували, що власники популярних розумних окулярів Ray-Ban Meta фактично добровільно транслюють своє особисте життя абсолютно стороннім людям. Як виявилося, фотографії та відео, зняті на ці високотехнологічні гаджети, потрапляють не лише в бездушні алгоритми машинного навчання, а й безпосередньо на екрани реальних працівників на іншому кінці світу.

Проблема криється в самому механізмі створення та вдосконалення мультимодального ШІ. Щоб вбудований в окуляри AI міг розпізнавати об’єкти, перекладати вивіски на вулиці або розуміти контекст того, на що саме дивиться користувач, нейронку потрібно постійно навчати на реальних візуальних даних. Для цього корпорації винаймають цілі армії так званих анотаторів. Це тисячі підрядників з різних країн світу, чиє головне завдання полягає в тому, щоб годинами переглядати відзняті матеріали і вручну розмічати їх для системи. І саме тут технічна необхідність стикається з тотальним порушенням приватності.

«З одного боку, окуляри продаються як повсякденний помічник — голос в оправі, який розповідає вам про те, що ви бачите. З іншого боку, люди в Найробі сидять і розмічають найінтимніші моменти, які фіксує камера: офіси відкритого типу, вітальні, спальні, ванні кімнати», — зазначають анотатори журналістам.

Підрядники кажуть, що у їхні руки щодня потрапляють тисячі кадрів з найпотаємніших куточків життя користувачів. Анотатори бачать далеко не тільки пейзажі та архітектуру. На їхні монітори потрапляють:

• деталі чужих спалень та ванних кімнат;
• розкладені на столах фінансові документи, банківські картки та паролі на екранах робочих комп’ютерів;
• діти, члени родин та партнери власників окулярів у домашніх, розслаблених, а подекуди й відверто інтимних ситуаціях.

«Ми бачимо все — від віталень до оголених тіл. Meta має такий контент у своїх базах даних. Люди можуть знімати себе випадково і навіть не усвідомлювати, що саме вони записують. А це реальні люди, такі ж, як ми з вами».

Окреме занепокоєння викликає доля людей, які взагалі не мають стосунку до цього девайса. Вбудована камера непомітно фіксує випадкових перехожих, попутників у транспорті, колег по роботі чи відвідувачів у кав’ярнях. Жодна з цих осіб не давала згоди на зйомку, що вже є редфлегом для славнозвісного європейського GDPR, проте їхні обличчя та дії також стають даними для навчання алгоритмів. Так, у цих окулярів є індикатор запису, який блимає червоним, коли девайс працює, але фахівці зазначають, що це радше захист компанії від судів, ніж реальне попередження. Він занадто малий і тьмяний, щоб оточуючі могли його вчасно помітити у повсякденній міській метушні.

«В окулярах є LED-індикатор... але відключити це світло так само просто, як використати маленьке свердло та зламати модуль датчика освітленості або сам світлодіод. Система може виявити втручання... але вона все одно дозволить вам продовжувати запис»

Звісно, після публікації такого матеріалу керівництво Meta не могло відмовчуватися. Представники компанії підтвердили, що вони дійсно залучають сторонніх підрядників, зокрема кенійську компанію Sama, для аналізу та розмітки даних. Але в Meta прогнозовано заперечують масштабність проблеми з витоком інтимного контенту. Вони стверджують, що всі дані перед тим, як потрапити до живих людей, проходять автоматичну фільтрацію та розмиття облич. Проте, як показують прямі свідчення самих анотаторів, ця корпоративна фільтрація дає серйозні збої. А як усім нам добре відомо, Meta ніколи не відзначалася надійним захистом персональних даних.