«Відкриті LLM-моделі занадто небезпечні» — Даріо Амодей
Натрапив у Х на пост із цитатою CEO Anthropic Даріо Амодеї про те, що open source
В оригінальний пост закинули його тезу про те, що відкритий ШІ йде «дуже небезпечним шляхом». Логіка Амодеї полягає в тому, що як тільки потужна модель релізиться в опенсорс, розробники повністю втрачають важелі впливу. Зокрема, компанії втрачають можливість моніторити зловживання, скасовувати доступ або централізовано оновлювати заходи безпеки. Тобто модель повністю виходить з-під контролю і її можна крутити на локальних машинах як завгодно.
І от хочу спитати: чи справді open source LLM`ки такі небезпечні, чи Даріо просто хоче підсадити всіх на корпоративну голку Claude? Що загалом думаєте про позицію Амодея?
P.S: сорі, але я не знаю, що про це скаже Сем Альтман :)
24 коментарі
Додати коментар Підписатись на коментаріВідписатись від коментарівМені здається, тут варто враховувати, що Anthropic заробляє саме на тому, що люди користуються її моделями через API, а не запускають їх у себе. Тому цілком можливо, що Даріо Амодей щиро вважає open source ризикованим, але водночас така позиція збігається з інтересами його компанії. Це не означає, що він неправий, просто цей контекст теж варто мати на увазі.
От ви жартуєте, а ші боти в коментах з нами тепер назавжди якраз через те, що старі відкриті моделі ніхто не закриє
Вільне носіння зброї теж небезпечно як і їхати на швидкій машині бо це створює небезпеку пішоходам. Алкоголь небезпечний теж.
Це вже реальність, смішно виглядають оці всі потуги опенаі з цензурування.
FUD
Останнім часом доволі багато експериментую саме з open-weight моделями. Можу сказати дві речі:
1. Ті що хостяться в дата-центрах з неабиякими потужностями, дійсно вже цілком співставні за можливостями з тими, що постачає Antropic, хоч, як на мене, поки що відчутно слабші.
2. Головна крутизна відкритих моделей саме в тому, що їх можна використовувати на власному залізі. І тут, як всі ми розуміємо, все вже впирається в потужність того самого заліза.
Я, наприклад можу використовувати модель Gemma4 разом з інструментами Ollama, де є можливість пошуку по веб як заміну Gemini. Плюс в тому, що тут я обмежений лише потужністю власного заліза, тобто немає такого запиту, який Gemma (на відміну від Gemini) відмовиться виконувати. Мінус — моє залізо працює в кілька (чи кількадесят) разів повільніше.
Тобто, якщо розглядати як потенційних злодіїв володарів дата центрів (така людина може направити на злам всю потужність дата центру), тоді небезпека виглядає цілком реальною. Якщо ні, тоді, на поточний момент, це — перебільшення. Проте, з часом ситуація може змінитися. З часом ситуація обовʼязково зміниться. І, так, ті рішення, які зараз виглядають як цілком безпечні, за десять років доведеться міняти та/або покращувати. Але ж це відбувається постійно. Двадцять років тому достатньо складний пароль виглядав як достатніх захід безпеки, зараз без другого фактору захист паролем ніколи не вважається достатнім.
Тобто, заходи безпеки постійно змінюються. Просто з появою ШІ цей процес ще прискорився.
Даріо стіки шкоди для розвитку АІ зробив.
А цікаво почути яку саме шкоду. Можете трошки детальніше про це?
Щось таке казали мєлкомягкі про лінукс зокрема і опенсорц загалом.
все у відкритому доступі небезпечно — від ножа до автомобіля.
Може колись настануть часи коли за володіння локальною несиртифікованою LLM буде покарання? як за наркотики або «CP». Все може бути.
та і за розробку і розповсюдження локальної несертифікованої LLM яка може становити небезпеку...
Зараз локальна LLM може зробити 80% задач. Так можна зменшити токени на антропік :)
Крім того не обовʼязково давати аж такі права на систему щоб там усе переламало.
а для якого заліза?
бо ти ж не будеш купувати АІ станцію за 50К$ щоб єкономити 25$ в місяць, ти захочеш запустити це на своему робочому ноуті.
не впевнений що ноут потягне щось типу конкурента клоду бо на ноуті вже є як мінімум піднятий проект + ide + browser, от і вся озу закінчилася)
але цікаво було б порівняти
25$ це субсидована ціна, якій рано чи пізно настане кінець.
Та хоч 500 стане, все одно ніхто не піде купувати станцію за десятки тисяч доларів.
Не знаю про які 80% задачь іде мова. Даєш локальній моделі хелло вород — зроби 3д куб шоб вертівся і з освітленням на пістоні — ще жодна локальна модель не впоралась ( всякі лоботомовані квени, немотрони, девстрілі ітд). Повноцінний ГЛМ чи Кімі можуть це зробити, але це не локальні моделі.
наложить хоть сколько-то правильную тень невыполнимая задача для любой модели. их максимум — это взять форму объекта, покрасить и сдвинуть на двум осям
О! Хоч раз помітили конфлікт інтересів.
Який сенс обговорювати те, на що немає важилів впливу?
Ніхто не заборонить навчать нейромережі, ніхто не заборонить запускати їх локально в юридикції, де це дозволено.
Зачем транслировать мнение ангажированного человека?
linux небезпечний :)
Якщо ти не самотня людина то так.Так і жінка може розвестися😅
Linux тільки по паспорту!1
А то раптом дитина собі поставить, піде в інторнет, а там LLM.
Тут одночасно всі праві. Відкриті моделі небезпечні. Але і контори типу Антропік зацікавлені в усуненні конкурентів.
Буквально за останній тиждень я бачу наростаючу кількість постів про «тестування» DeepkSeek, GLM як альтернативи до Anthropic , OpenAI . Тому що дорого стало в топових вендорів LLM.
Із контексту розмови він про локальні моделі, а поки лише до моделей рівня gpt-5-mini дотягують. А вот DeepkSeek, GLM це ніяк не локальні моделі, і не відкриті також. Open weight так, но ти їх локально фіг запустиш.