Джеффрі Гінтон йде з Google і попереджає про небезпеку дезінформації
Джеффрі Гінтон, якого часто називають хрещеним батьком штучного інтелекту, залишив Google. Як пише New York Times, це сталось через занепокоєння потоком фейкової інформації, відео та фотографій в Інтернеті та можливістю ШІ «перевернути» ринок праці.
Він також сказав New York Times, що до минулого року вважав, що Google був «належним розпорядником» цієї технології, але це змінилося, коли Microsoft почала інтегрувати чат-бота у свою пошукову систему Bing, і Google почав робити те саме для свого пошуковика.
«Я дійшов висновку, що тип інтелекту, який ми розвиваємо, дуже відрізняється від інтелекту, який ми маємо».
«Тож це виглядає так, якби у вас було 10 000 людей, і щоразу, коли одна людина щось дізнавалася, усі це автоматично знали. І саме тому ці чат-боти можуть знати набагато більше, ніж будь-яка людина».
Занепокоєння Гінтона в короткостроковій перспективі вже стало реальністю: люди більше не можуть розпізнати правду, оскільки фотографії, відео та текст, створені ШІ, заполонили Інтернет.
Нещодавні оновлення генераторів зображень, таких як Midjourney, означають, що люди тепер можуть створювати фотореалістичні зображення — одне з таких зображень Папи Франциска в пуховику Balenciaga стало вірусним у березні.
20 коментарів
Додати коментар Підписатись на коментаріВідписатись від коментарівЛюдина выйшла на пенсiю — роздули новину)
Просто интернет умрет, его завалит спамом с которым он не справится. Это не уникальное явление; джаббер, юзенет и фидо уже сдохли.
И фотошопа не существует более как 30 лет!
Та нічого не помре, просто залишаться старі ресурси та гіганти, новий ресурс вже не проб’ється без надзусиль. І так гугол кожен день або тиждень лярд сторінок з індексу викидає (і це до джипіті). Соцмережі будуть ще жорстко більш модерованими.
Альтернативи немає.
Будет. И она будет построена на принципах недостижимости для чатгпт.
Ти про The dead internet чув?
Ага, но я более в глубоком смысле. Если чатгпт будет позволено воровать чужой контент и не компенсировать за это, то смысла в вебе-гипертексте как связанных друг с другом документов становится очень мало.
а что значит воровать?
Что-то вроде «перескажи Гарри Поттера слово в слово»?
uk.wikipedia.org/wiki/Плагіат
А можно пример?
С Гарри Поттером валидный? Или вы что-то другое подразумеваете?
Пфффф... Да практично 99% контенту в мережі, особливо тексту — це «плагіат». Просто раніше цим займалися сотні тисяч рерайтерів (для більш серйозних проектів копірайтери), а зараз ця прокладка заміниться на AI.
От і все. Генеріку буде більше, так, але і з цим справляться корпорації типу гугл
Рерайт нужен был для одной конкретной цели — СЕО, которые теперь вообще не будут нужны теперь.
Так проблема не в рерайті, а в масштабах. Уяви завтра контора рога і копита с трьома працівниками випускає 500 тис сайтів з якісним контентом що писали «люди» філологи.
А на наступну добу ще 500 тис. сайтів публікує. І маємо 1 млн якісних сайтів зроблені роботом за 2 доби, навпроти 1 млн сайтів які створювали мільйони людей за 30 років. І відрізнити хто є хто неможливо.
Каждый о своём.
Можем сгенерировать допустим не большой рассказ.
И пропустить его через все тулзы проверки на плагиат. И они его не найдут. Это считать плагиатом?
Человек говорит о «воровстве» интеллектуальной собственности. Вот мне и интересен кейс, как можно что-то украсть и насколько это фундаментальная проблема или относительно легко решаемая.
Якщо чесно то насрати на інтернет фейки. Я якось навчився легко фільтрувати сумнівну інформацію. А випускати її вже давно навчились і без AI. Пересічному споживачу не треба супер реалістичні фейки щоб повірити у їх правдоподібність.
Гірше — суди, які довіряють відео та фотоматеріалам. Фейк створений людиною гарний експерт розпізнає, а от чи зможе розпізнати AI фейк?
Так — сумлінні AI розробники будуть (і скоріш за все закон їх забов`яже) якось підписувати контент або взагалі зберігати наприклад централізовану базу із хешами випущенного контенту щоб правоохоронці могли легко перевірити чи не був створений відос на якому невинна насправді людина грабує банк задопомогою AI
Але буде і злочинне ПЗ. От це біда насправді. Єдиний вихід — захищати справжній контент. Камери відеонагляду, наприклад, повинні підписувати відео і суди повинні приймати як докази тільки захищенний контент.
Але поки людство до цього прийде дров наламати встигнуть
але через те що абстрактні 73% не навчились — розгрібати будемо всі разом.
Тільки тут не присутність штучного, а відсутність біологічного інтелекту
На основі фейкових фактів контент мейкери за допомогою чатгпт нагенерують купу фейкового контенту. А Черговий умовний чаттгпт5 усе це проіндексує.що тоді?
Я руками написал фейк. Гугл это проиндексировал. И что тогда? Небо не рухнуло.
Но вообще комментарий валидный. Правила информационной гигиены могут изменится.
Языковая модель это же не поисковый движок. Хотя вместе они хорошо друг друга дополняют.
Це трохи інша справа. Нагадує як прийшов пц почтовим сервісам на початку нульових. До того ти теж міг скрутити паперовий конверт, та відправити будь кому в світі. Але коли це стало автоматизовано, користувачі отримали спам, коли ти відкриваєш скриньку а там 5 тис нових листів за добу. Цю проблему довго і муторно вирішували, але вирішили. Зараз буде теж саме, але проблема вже набагато складніша ніж спам в скриньках.
Только тут количество возможных юзкейсов зашкаливает.
С поиском более на поверхности, я думаю это то как раз закроют быстро. А вот где еще тонко — это вопрос.