«Це жахливо — коли обмежені світові запаси DRAM лежать на домашніх ПК та використовуються 5% часу» — Сем Альтман
У подкасті Cheeky Pint генеральний директор OpenAI Сем Альтман висловився про локальний запуск AI-моделей на персональних комп’ютерах. За його словами, можливість запускати відкриті моделі вдома не розв’язує проблему дефіциту обчислювальних ресурсів.
«Багато хто прагнуть виконувати запуск локально. Люди чомусь вважають, що проблема вирішена, адже з’являються моделі з відкритим вихідним кодом, які можна запускати на власних комп’ютерах, тож, мовляв, ресурси дата-центрів більше не знадобляться».
Але з погляду глобального розподілу, зазначає Альтман, нераціонально тримати велику частину запасу DRAM у індивідуальних комп’ютерах.
«Це, насправді, просто жахливо — коли значна частина обмежених світових запасів оперативної пам’яті лежить у комп’ютерах користувачів, причому використовується лише 5% часу».
Тож в умовах, коли ресурси вкрай обмежені, необхідно прагнути до їх максимального використання — а це можливо саме в хмарному середовищі, вважає керівник OpenAI.
А яка ваша думка щодо цього?





Найкращі коментарі пропустити