Чи варто купляти власний сервер для тренувань нейромереж додому

💡 Усі статті, обговорення, новини про AI — в одному місці. Приєднуйтесь до AI спільноти!

Чи варто купляти власний сервер для тренувань нейромереж додому, чи краще орендувати хмарні потужності в Україні у 2023 році?

По-перше, очевидно, що є ризик незапланованого відключення світла. По-друге, треба враховувати вартість електроенергії в Україні, якої треба буде чимало для обчислення на топових відеокартах. По-третє, чи вигідно це фінансово? Інше питання: чи зручніше та безпечніше зберігати дані на диску вдома, чи на S3, Google Cloud Storage, чи Azure Blob Storage? Чи легше буде підключатися до хмарного сервера, аніж налаштовувати віддалений доступ до свого сервера, який стоїть вдома?

Електроенергія. Кабінет Міністрів України постановою від 30.05.2023 р. № 544 встановив для всіх жителів України фіксовану ціну на електроенергію, яка з 1 червня по 31 грудня 2023 року становитиме 2,64 грн/кВт∙год, незалежно від обсягу споживання. Отже, користуючись RTX 3090, що споживає 350 Вт на максимальній потужності, ви платите 0.924 грн∙год. Для порівняння, ціна оренди RTX 3090 на vast.ai становить $0.25∙год, тобто 9.375 грн∙год (курс $ 37.5), що в десять разів дорожче за користування домашньою відеокартою. На AWS EC2 оренда g5.xlarge instance (NVIDIA A10G 24GB) коштує $1∙год.

Ціна ПК. 90 000 грн ($2 400) — 110 000 грн ($2 900) за RTX 3090, 64 — 128 GB RAM, 1 TB SSD, AMD Ryzen 9 5xxx, або схожий ПК.

Зберігання даних. Якщо ми говоримо про зберігання даних, то вартість 1TB на Amazon S3 в Україні становить приблизно $23 ($0.023∙GB або 0.86 грн) на місяць. Якщо ви плануєте тренувати нейромережі на великих датасетах, ці витрати можуть швидко зростати. Натомість, вартість 1TB SSD для домашнього сервера в Україні в середньому становить 2 000 — 3 000 грн ($53 — $80), і це одноразова покупка.

Безпека та доступність. Хмарні сервіси, такі як AWS або Google Cloud, інвестують мільярди в безпеку своїх даних. Вони пропонують шифрування, резервне копіювання та захист від DDoS-атак. Вдома вам потрібно буде витратити додаткові кошти та час на налаштування безпечного віддаленого доступу, RAID, та інше.

Зручність. Якщо ви використовуєте хмарний сервіс, вам потрібно буде платити за інтернет-трафік при завантаженні та вивантаженні даних. В середньому, ціна за 1GB вивантаження з AWS в Україні становить $0.09. Якщо ви працюєте з великими датасетами, ці витрати можуть накопичуватися. З іншого боку, використовуючи власний сервер, ви платите лише за домашній інтернет, який, зазвичай, не обмежує трафік.

Якщо ви плануєте тренувати нейромережі на великих датасетах або працювати над довгостроковими проектами, власний сервер може бути вигіднішим варіантом з економічної точки зору. Однак, якщо ви шукаєте гнучкість, надійність та високий рівень безпеки, хмарні сервіси можуть бути кращим вибором.

Я для своїх цілей зібрав би свій, з часом 😊

Пост з каналу @eiaioi, де я пишу про дослідження у сфері Machine Learning / Deep Learning / Data Science. Підписуйтесь!

Поділіться в коментарях, хто вже збирав свій сервер, скільки це коштувало, та чи, на вашу думку, вигідніше зараз замовляти компоненти з-за кордону, чи купляти в Україні?