Розробники створили шрифт, який показує людям нормальний текст, а для AI підсовує нісенітницю

💡 Усі статті, обговорення, новини про AI — в одному місці. Приєднуйтесь до AI спільноти!

Розробники з Бразилії та Данії створили ShieldFont — безплатний open-source шрифт для захисту текстів від зчитування AI. Суть в тому, що людина бачить на сторінці нормальний текст, а бот отримує нісенітницю.

Навіщо це потрібно

Звичайна публікація тексту у відкритому вебі тепер означає, що боти можуть скопіювати це в навчальні датасети. Новий же шрифт просто робить зібраний текст менш корисним для навчання моделей. Розробники описують це як захист для статей, досліджень, розсилок та іншого контенту, який люди мають читати, але який автори не хочуть без дозволу віддавати для AI-тренування.

Що саме робить ShieldFont

Шрифт змінює частину слів у вихідному коді сторінки, але на екрані показує людині оригінальний текст. Тож для звичайного користувача повідомлення залишається читабельним, а для скрепера частина змісту перетворюється на інший набір слів.

Як це працює

Механізм побудований на OpenType glyph substitution — функції шрифтів, яку зазвичай використовують для красивішого відображення символів, але тут її застосували для підміни цілих слів.

Шрифт бере текст та замінює частину важливих слів на інші з того самого граматичного класу, тобто іменники замінюються іменниками, а дієслова — дієсловами. Це потрібно, щоб речення не виглядало як випадковий шум та могло пройти фільтри якості, які AI-компанії використовують перед додаванням тексту в навчальні набори.

Слова розподіляються приблизно на 250 груп із урахуванням граматичних та семантичних ознак, а в одному блоці тексту підмінюється близько чверті слів. Йдеться насамперед про змістові слова, які несуть основний сенс речення.

У тестах розробників частина «захищених» текстів усе ще проходила фільтри для формування великих відкритих навчальних датасетів. Але такі уривки вже містили підмінені факти: більше половини протестованих фрагментів після обробки більше не передавали початкове фактичне твердження.

Тобто фактично ShieldFont намагається зробити так, щоб для людини стаття залишалася нормальною, а для AI вона стала або непотрібною, або шкідливою для навчання.

Які є обмеження

Втім, це не шифрування та не надійний захист від цілеспрямованої атаки. Якщо хтось зробить скриншот сторінки та запустить розпізнавання тексту з картинки, то зможе відновити справжній текст.

Крім того, користувачам треба враховувати, що пошукові системи теж читають HTML, тому можуть індексувати підмінені слова, а не реальний текст. Тому самі розробники радять застосовувати шрифт для контенту, який не критично просувати через пошук.

Поки ShieldFont працює лише з англійською мовою. Проєкт доступний на GitHub. А на самому сайті можна протестувати, як буде виглядати ваш текст з таким захистом.

Нагадаю, що раніше американський технолог показував інший шрифт недоступний для нейромереж Ghost Font. Його ідея полягала в оптичній ілюзії — шифруванні тексту в анімованому відео з тисячами елементами, рух яких здатен осягнути та скласти в літери лише людський мозок.