Як Сем Альтман перетворює OpenAI на прибуткову машину

Усі статті, обговорення, новини про AI — в одному місці. Підписуйтеся на DOU | AI!

Розробник ChatGPT обіцяв ділитися своїми здобутками з громадськістю. Але Сем Альтман вас зрадив.

Стаття з таким заголовоком вийшла 27 вересня у виданні Vox. В ній журналісти зібрали критику та реакцію спільноти на звільнення Міри Мураті, а також новини про подальший вектор компанії на прибутковість. Переклали для вас матеріал і закликаємо до дискусії.

З моменту свого заснування в 2015 році, керівники OpenAI заявляли, що їхнім головним пріоритетом є забезпечення безпечного та корисного розвитку штучного інтелекту. Вони підкреслювали незвичайну корпоративну структуру компанії як спосіб довести чистоту своїх намірів. OpenAI була неприбутковою організацією, контрольованою не CEO чи акціонерами, а правлінням з однією метою: забезпечити безпеку людства від ШІ.

Але цього тижня стало відомо, що OpenAI більше не контролюватиметься правлінням. OpenAI перетворюється на повноцінну прибуткову корпорацію, яка отримує вигоду. І CEO Сем Альтман, який раніше підкреслював, що не має жодних часток у компанії, тепер отримає акції на кілька мільярдів доларів, а також остаточний контроль над OpenAI.

У повідомленні, яке, здається, не є випадковим, головний технічний директор Міра Мураті заявила, що залишає компанію. Співробітники були настільки шоковані, що багато з них відреагували на її раптовий відхід емодзі «WTF» у Slack.

Вся суть OpenAI полягала в тому, щоб бути неприбутковою і безпечною. Вона почала віддалятися від цього бачення ще кілька років тому, коли в 2019 році OpenAI створила прибутковий підрозділ, щоб залучити величезні інвестиції, необхідні для розробки просунутого ШІ. Але деякі з її співробітників та зовнішніх прихильників все ще сподівалися, що компанія дотримається своїх принципів. Ці надії тепер можна поховати.

«Ми можемо попрощатися з оригінальною версією OpenAI, яка хотіла бути вільною від фінансових зобов’язань», — сказав Джеффрі Ву, який приєднався до компанії в 2018 році і працював над ранніми моделями, такими як GPT-2 та GPT-3.

«Реструктуризація навколо основного прибуткового суб’єкта формалізує те, що зовнішні спостерігачі знали протягом деякого часу: OpenAI прагне отримати прибуток у галузі, яка отримала величезний наплив інвестицій за останні кілька років», — сказала Сара Крепс, директор Технологічного політичного інституту Корнелла. Це зміщення відхиляється від «основного акценту OpenAI на безпеці, прозорості та меті не концентрувати владу».

Як Сем Альтман став екзистенційним ризиком для місії OpenAI

Коли OpenAI була спільно заснована в 2015 році Ілоном Маском (разом із Альтманом та іншими), він хвилювався, що ШІ може стати екзистенційним ризиком для людства. Тому нова дослідницька лабораторія представила себе світу такими трьома реченнями:

OpenAI є неприбутковою компанією, що займається дослідженнями штучного інтелекту. Наша мета — просувати цифровий інтелект таким чином, який, ймовірно, принесе користь людству в цілому, без обмежень, пов’язаних із необхідністю генерувати фінансовий прибуток. Оскільки наше дослідження не пов’язане з фінансовими зобов’язаннями, ми можемо краще зосередитися на позитивному впливі на людство.

Всі ці заяви зараз об’єктивно неправдиві.

З моменту, коли Альтман очолив OpenAI в 2019 році, компанія почала віддалятися від своєї місії. Того року компанія створила прибутковий підрозділ, щоб залучити величезні інвестиції, необхідні для створення передового ШІ. Але вона зробила щось небачене в Кремнієвій долині: обмежила прибуток, який могли отримати інвестори. Вони могли отримати до 100 разів більше, ніж інвестували, але понад це гроші йшли б до неприбуткової організації, яка використовувала б їх на благо суспільства. Наприклад, це могло б фінансувати програму універсального базового доходу, щоб допомогти людям адаптуватися до безробіття через автоматизацію.

Протягом наступних кількох років OpenAI дедалі більше знижувала пріоритетність акценту на безпеці, поспішаючи до комерціалізації продуктів. До 2023 року неприбуткове правління настільки підозрювало Альтмана, що намагалося його усунути. Але він швидко повернувся до влади, експлуатуючи свої стосунки з Microsoft, з новим правлінням, яке було на його боці. І на початку цього року команда безпеки OpenAI розпалася, оскільки співробітники втратили довіру до Альтмана та залишили компанію.

Тепер Альтман зробив останній крок у консолідації своєї влади: він повністю позбавив правління контролю. Хоча воно все ще існуватиме, але не матиме жодної влади.

Прибуток може бути тим, що компанія, на думка Альтмана, терміново потребує. Незважаючи на надзвичайно впевнений допис, опублікований цього тижня, в якому він стверджує, що ШІ допоможе «вирішити проблему клімату, створити колонію в космосі та відкрити всі закони фізики», OpenAI насправді опинилася в скрутному становищі. Вона бореться за те, щоб знайти чіткий шлях до фінансового успіху для своїх моделей, які коштують сотні мільйонів — якщо не мільярди — для створення. Реструктуризація бізнесу в прибутковий може допомогти залучити інвесторів.

Але цей крок змусив деяких спостерігачів, включаючи Ілона Маска, запитувати: як це може бути законним?

Якщо OpenAI скасує обмеження на прибуток, це означатиме перенаправлення величезної кількості грошей — потенційних мільярдів доларів у майбутньому — з неприбуткової організації до інвесторів. Оскільки неприбуткова організація існує для представлення суспільства, це фактично означатиме перенаправлення мільярдів від таких людей, як ви і я. Як зазначають деякі, це схоже на крадіжку.

«Якщо OpenAI раптово скасує обмеження на прибуток від інвестицій, це фактично передасть мільярди вартості з неприбуткової організації на прибуткових інвесторів», — сказав Джейкоб Хілтон, колишній співробітник OpenAI, який приєднався до компанії до її переходу з неприбуткової на обмежену прибуткову структуру. «Якщо неприбуткова організація не буде адекватно компенсована, це буде спроба заробітку. На мою думку, це суперечитиме статуту OpenAI, який стверджує, що основна фідуціарна відповідальність OpenAI — це людство, і я не розумію, як закон може це дозволити».

Але оскільки структура OpenAI є безпрецедентною, законність такого зрушення може здатися деяким людям заплутаною. І, можливо, саме на це компанія і розраховує.

Запитуючи про це, OpenAI відповіла, що OpenAI залишається «зосередженою на створенні ШІ, який приносить користь усім», додавши, що «неприбуткова організація є основою нашої місії і продовжить існувати».

Прихильники безпеки ШІ вже давно стверджують, що потрібно ухвалити регулювання, яке забезпечило б певний нагляд за великими компаніями, що працюють з ШІ — наприклад, законопроєкт SB 1047 у Каліфорнії, який губернатор Гевін Ньюсом повинен або підписати, або накласти на нього вето в найближчі дні.

Альтман також підтверджує побоювання своїх колишніх співробітників, які опублікували пропозицію, вимагаючи, щоб співробітники великих компаній, що працюють з ШІ, мали право попереджати про загрози передового ШІ. Згідно з їх пропозицією:

«Компанії, що працюють зі ШІ, мають сильні фінансові стимули уникати ефективного нагляду, і ми не віримо, що індивідуальні структури корпоративного управління будуть достатніми, щоб це змінити».

Очевидно, вони мали рацію: неприбуткова організація OpenAI мала контролювати прибутковий підрозділ, але Альтман щойно перевернув цю структуру догори дриґом.

Після років запевнень всіх, що OpenAI хоче регулювання та турбується більше про безпеку, ніж про гроші, Альтман більше не намагається грати в ці ігри. Він показує всім своє справжнє обличчя.