Як боротися з Deep Fake? Які технології для цього розробляються?

Усі статті, обговорення, новини про AI — в одному місці. Підписуйтеся на DOU | AI!

Хотів би обговорити тему Deep Fake.

Технілогії розвиваються стрімко. Вже наступні 1-2 роки ми маємо побачити загальнодоступні інструменти для відеодзвінків з маскою на вигляд та голос будь-якої людини.

Тобто буде мільйон відео де відомі люди , політики, зірки роблять щось погане і не буде простого способу відрізнити чи це реально чи ні.

Що робиться в цьому напрямку? Є якісь рішення від корпорацій?

Як на мене просте і доступне рішення це криптографічний підпис під кожним відео, зобраденням, аудіозаписом. Тобто, завжди знаємо чи матеріал підписаний чи ні.

Якщо ні то ніколи не віримо йому.

Якщо підписаний то перевіряємо ким саме і чи ми віримо цій людині чи компанії.

👍ПодобаєтьсяСподобалось0
До обраногоВ обраному0
LinkedIn
Дозволені теги: blockquote, a, pre, code, ul, ol, li, b, i, del.
Ctrl + Enter
Дозволені теги: blockquote, a, pre, code, ul, ol, li, b, i, del.
Ctrl + Enter

Прийшов до такого ж висновку — тільки КЕП. При чому підпис має накладати залізо — контролер камери, чи якась штуковина в телефоні. І КЕПи на камери має видавати АЦСК, якому довіряють. Це б дало відповідь на запитання — відео/фото зроблено камерою чи редагувалось/створювалось в редакторі.

Це не надійно. Можна буде витягнути ключ з заліза і підписувати що хочеш.
Краще це ключі привязані до конкретної особи або конкретної компанії чи організації.
Знімай і монтуй все, що хочеш, але несеш відповідальність. Якщо підписав фейк,і в суді буде доведено що це вей то будеш мати проблеми.

А далі кожен сам вирішує чи переглядати відео без підписів. Можна буде сформувати своє коло довіри і дивитися лише матеріали підписані організаціями чи людьми яким довіряєш.
Але побачим як воно буде. Зараз таке враження, що людям пофіг чи воно фейк чи ні. Головне щоб співпадало з їх світоглядом і переконаннями

ну от мені цікаво чи можливо ключ засунути в залізо так, щоб дістати його звідти та використати окремо від заліза було неможливо

Чи можна щось зробити, щоб було не можна?
Звісно)

а в яке місце заліза його буде засунуто?
в проц? ну то діпфейкери підпаяються до сенсора і згодують потрібний ролик процу камери.
додати стеганографічну вортермарку в потік з сенсора? потік же потім обробляється процом. та й в будь якому випадку навіть уберпідписане відео після кількох перезаливів і перекодувань втратить все.

Звичайно можна дістати все.
Ну і такий ключ не привязаний до когось. Ну зняли відео камерою фірми соні. Хіба це доводить що відео не фейк? Має бути привязка до особи, щоб була відповідальність

ну це мало б дати відповідь на запитання — знято на камеру чи створено або модифіковано в редакторі. Мова йде, я так розумію, про так звані діп фейки — шось там намутить з AI — це б вирішило питання, ну а якщо запросили акторів, створили простір і зняли це на камеру, видаючи це за щось інше — тут вже не допоможе, звичайно.

> щоб була відповідальність
а її буде не більше, ніж зараз за «машка — дура» на стіні.

З оцими діпфейками — це як коли у дитинстві розумієш, що можна сказати або почути неправду. Всьо, з цим треба жити і навчитися обходити і викорситовувати.
з підробкою підписів навчилися жити. З підробкою спортивних костюмів навчилися жити. Навіть у підробці спирту перестали бачити щось погане.
Так і з діпфейками буде.

застрати інтернет так, щоб фейком вважалось все.


В дальней перспективе цель ПРОГРЭССа была прекрасна и благородна: создать нечто, что эти люди называли Надежным интернетом. В ближней перспективе они ради этой цели собирались затопить каждый блог фейковыми комментами, добавить каждому законному аккаунту в Твиттере тысячи фейковых подписчиков, клонировать каждую законную страницу в «Фейсбуке» и выжидать недели или месяцы, прежде чем внезапно заполнить мусором ленты своих жертв.

Та вже давно це доступно, людям лінь таким займатись постійно

Монтаж з людством з часів, коли з’явилися фотографія і кінематограф. До того ж змонтоване діпфейком медіа значно гіршої якості, ніж монаж робила би людина.

Тут основна штука в автоматизації, але немає нічого такого, що не можна було б з робити раніше вручну. По крайній мірі в візуальних медіа.

Підписатись на коментарі