Кемерон vs. Скайнет: Хто тут справжній лиходій?

💡 Усі статті, обговорення, новини про AI — в одному місці. Приєднуйтесь до AI спільноти!

Ще одна відома персона висловила своє занепокоєння ризиками появи штучного загального інтелекту (AGI). Цього разу це Джеймс Кемерон. Той самий режисер фільму «Термінатор», який «створив» Скайнет.

На саміті AI+Robotics він зазначив, що реальність AGI може виявитися «страшнішою» за вигадку, особливо якщо розвиток цього інтелекту буде в руках приватних корпорацій, а не урядів.

Кемерон застеріг, що начебто технологічні гіганти, розвиваючи AGI, можуть створити світ, де рішення та дані людей будуть контролюватися «чужим» інтелектом, орієнтованим на корпоративні інтереси.

А це, своєю чергою, може призвести до «цифрового тоталітаризму», де компанії контролюватимуть комунікації та відстежуватимуть дії людей.

Особливо він вбачає небезпеку в так званому «капіталізмі спостереження» («surveillance capitalism»), де корпорації стають арбітрами людського добробуту, що є більш загрозливим, на його думку, ніж вигаданий ним Скайнет.

А тепер поясніть мені, хто підкидує цим відомим персонам ці маячні думки? Що може Кемерон знати про можливості ШІ та його загрози? В чому саме, з технічного боку, вони криються? Як саме буде виглядати, з його точки зору, процес захоплення нашого світу AGI?

Бо на мій дилетантський погляд, значно більша небезпека відходить саме від персон на кшталт Камерона, які вимагають контролювати та регулювати ШІ.

Це ж очевидно, що умовному «Скайнет» набагато складніше забрати контроль над світом у купи комерційних компаній типу OpenAI, Google DeepMind, Anthropic, Meta (Facebook) та Microsoft, ніж зробити це, коли контроль буде в одних руках, якогось умовного Держдепу.

Не треба далеко ходити, достатньо глянути, як прогресує цифровий тоталітаризм в Китаї. Цілком можливо, що ШІ вже керує п’ятою частиною людства. Бо інакше як пояснити досить дивну поведінку цієї країни на політичній арені. Погодьтеся, вона досить сильно змінилася.

Тож, коли ми слухаємо чергові тривожні прогнози від знаменитостей типу Кемерона, варто запитати себе: що насправді більше загрожує свободі — нові технології чи страх перед ними?

Бо, на мою думку, реальна небезпека полягає не стільки в тому, що AGI захопить наш бентежний світ, а в тому, що хтось захоче взяти контроль над AGI у свої руки й «захищати» нас від вигаданих загроз.

Як і завжди, історія показує: більша загроза — це не самі інструменти, а ті, хто прагне їх монополізувати.