Highload — это сколько?

Vasya Pupking 18.02.2021 18:58

О, кто поднял некротему и зачем я в ней пишу? ))))

Vasya Pupking 18.02.2021 18:54

У нас в команде на систему нагрузка до 20к RPS на хост и до 3-4M RPS на кластер (в пике). Хайлоад?

Yevhen Kushnir 18.02.2021 15:35

Якщо, умовно, одна хвилина простою твого сайту автоматично означає недоотриманий прибуток, можеш вважати, що це вже highload.

Vadim Kopanev Architect 18.02.2021 15:41

Большего бреда и не придумаешь

Yevhen Kushnir

Yevhen Kushnir 18.02.2021 15:44

Ну, з таким підходом все, що не Facebook чи Google, highload-ом вважати не можна. Інакше де та межа, коли по одну сторону highload, а по іншу — ні?
Для когось 6000rps — highload, але завжди знайдеться хтось, хто працює з більшими об’ємами, і лише посміється з такого. Тож якшо справедливе розмиття в одну сторону, то очевидно, що це працює і в інший бік.

Те, що є highload-ом для одних, абсолютно не обов’язково є таким, для інших.

Vadim Kopanev

Bogdan Shyiak SE or Dev 18.02.2021 18:41

Те, що є highload-ом для одних, абсолютно не обов’язково є таким, для інших.

При тому, хайлоад не завжди корелюється з прибутком чи простоєм системи.

Yevhen Kushnir

Sergey Lysak T/T Lead 18.02.2021 12:14

Особенно среди рубистов таких много, причину чего вообще не понимаю.

потому что у руби на сейчас — наверное самый тормозной интерпретатор.так что они быстро упираются

в численном выражении можно выразить

в численном — сложно.
качественно, просто — это когда приложение регулярно подвержено негативным эффектам от «хабраэффекта», вплоть до полного прекращения работы.

А если 1000 сидит в ERP, а 1000000 это практически статичный сайтик?

я так же аналогично спрашиваю «спецов по хайлоад», когда они пытаются мерить количеством входящих tcp запросов :)

и не только, чистые вебщики не в курсе, какие тяжелые обработки на беке инициирует всего-лишь 1 пользователь ERP. привыкли что их «сайтик на WP» работает и на 1000 одновременных пользователей на таком себе шареде, и удивляются, у-у-у, а зачем вам такие мощные сервера, у вас же там 100 сотрудников максимум, «вы наверное не умеете оптимизировать! Индексы в БД добавьте, очень помогает!»

Есть ли какая-то методология, позволяющая сказать, что вот это высоконаргруженное приложение, а вот это нет?

вряд ли.
но пару признаков может указывать что у нас highload
— какие пиковые нагрузки ожидаются как норма, во сколько раз они превышают типичные?
— какова загрузка СPU и I/O при пиковых нагрузках?
— сколько тех самых tcp запросов в состоянии поддерживать система, начиная от вебсервера?

и тогда, как ниже указали, появится признак — надо масштабироваться горизонтально — вертикально мы ничего уже не добъемся за вменяемые деньги.

1000 сидит в ERP — тоже дают ого нагрузку. но разруливается она обычно оптимизациями, разноской на разные сервера, выносом частей в отдельные сервисы, параллелизацией — сюда пишем, оттуда читаем.
то есть — нет признака:
ночью у нас 1000 пользователей, днем 10000, а вот вечером набегает полмиллиона.

но в целом, как в одном подкасте обсуждали highload, и один рассказал
... как-то один собеседующий на вопрос «а highload это сколько?» ответил:
я вам и на двух пользователях могу устроить хайлоад. Нам ответ очень понравился, взяли в итоге :)

Vladyslav Melnyk 18.02.2021 17:47

— какова загрузка СPU и I/O при пиковых нагрузках?
— сколько тех самых tcp запросов в состоянии поддерживать система, начиная от вебсервера?

Это так же может говорить о том что железо — говно=)

Sergey Lysak

Sergey Lysak T/T Lead 18.02.2021 17:57

Это так же может говорить о том что железо — говно=)

ну, если программист не может определить о чем это говорит, в контексте его приложения, и железо ли говно или не железо, про другие метрики он и не знает, а потому делает вывод только по этим, и т.п.
то наверное это не железо, а он такой :)

Vladyslav Melnyk

Андрей Губский Software Architect в Outbrain 18.02.2021 11:49

Highload — это когда вам уже недостаточно вертикального масштабирования и необходимо горизонтальное.

Количество запросов/пользователей может быть любое. Хоть один пользователь с одним запросом.

Bogdan Shyiak SE or Dev 18.02.2021 15:00

Highload — это когда вам уже недостаточно вертикального масштабирования и необходимо горизонтальное.

Mailinator?
Працював на 1 чи не домашньому ПК.

Андрей Губский

Андрей Губский Software Architect в Outbrain 18.02.2021 15:22

Я не в курсе, что такое Mailinator.

Рахіт Срінавасович Кумар 29.01.2021 04:39

5к+

Left Outer Join 28.01.2021 18:39

Хайлоад — ныне подзабытый баззворд середины 2010-х :)

anonymous 28.01.2021 20:00

-

Left Outer Join

Andrey Freelancer в PE 28.01.2021 15:49

highload — это один доклад на Highload fwdays

Олександр Черних Системний адміністратор в Редакція "Дебет-Кредит" 10.12.2019 17:12

В 2011 я сам узнал, что такое highload. Узнал по взрослому.
4admin.info/highload-is-how-much

Alex Ivanov 20.05.2014 16:15

:)
Ну почему. Это актуально.
В IIS, например, количество потоков по умолчанию — 5. Остальные ждут ....

Нестор Иванович 16.05.2014 02:10

тьфу только понял что в некро теме отписался

Noname 16.05.2014 01:56

Хайлоад — это относительное состояние, когда наступает время масштабироваться. Советую почитать Что такое хайлоад

Paul Lysak Software developer 01.02.2013 17:22

Если не получается решением в лоб выдержать нагрузку — значит хайлоад.

Mykola Gurov тролль 01.02.2013 21:16

если быдлокодерок написал поиск по ключу с квадратичной сложностью — то это у него хайлоад вдруг при деплое наступил? :)

Paul Lysak

Alexandr Gavriluk 01.02.2013 21:44

поиск элемента с N^2 сложностью? У меня только один вопрос — КАК!!? Так как нечто более линейной сложности даже в голову не приходит.

reality_hacker 01.02.2013 22:29

Так как нечто более линейной сложности даже в голову не приходит.

У тебя крайне ограниченное воображение.

Kirill Sablin Developer 01.02.2013 22:29

ну, например, каждую итерацию узнавать размер таблицы, что может быть реализовано со сложностью N

Paul Lysak Software developer 04.02.2013 09:58

Если при ваших обьемах данных это существенно — то можно назвать хайлоадом.

Макс Матюхин программист в Badoo 01.02.2013 16:41

По-моему термин highload стал широко использоваться благодаря одноименной конференции в москве. И по хорошему он должен называться high scalability. Но слово highload для русскоговорящих — проще.

Bogdan Shyiak SE or Dev 01.02.2013 17:50

И по хорошему он должен называться high scalability.

А почему не _high availability_?
Какая разница как сервис скейлитсо если он держит рагрузку? Горизонтально скейлить — это самый простой способ сделать highload-сервис работоспособным.

proger 01.02.2013 23:50

ha совсем другое

Bogdan Shyiak SE or Dev 01.02.2013 23:58

ha совсем другое

Потому что ...

proger

Valeriy Zamaraiev (junior lisper) 01.02.2013 16:17

Я бы сказал какой-нибудь телефонный свитч — это хайлоад, даже если он в 80-х сделан. Там тебе и СМО и статистика и горизонтальное масштабирование и все-все.

Edik Oganesyan connecting people 01.02.2013 14:57

Hightload — это SaaS, способный выдержать всю целевую аудиторию польлзователей, для которой он расчитан. При этом очень желательно, чтоб с увеличением пользователей и их активностью затраты на поддержку этого Highload-a росли не быстрее.

anonymous 01.02.2013 03:35

Термин highload к количеству пользователей никакого отношения не имеет. Есть задачи, где даже один юзер может при желании легко загрузить сотню серверов. Обычно говорят о гарантируемом времени отклика системы при определенных входных параметрах.

Sergey Kovalyov Software Engineer 31.01.2013 13:44

По-моему, справедливым было бы такое определение для «специалиста по хайлоаду»: практический опыт программирования и администрирования горизонтально масштабируемых приложений.

proger 31.01.2013 16:11

практический опыт программирования и администрирования горизонтально масштабируемых приложений.

гм. под это определение любой пшпник подпадает

Sergey Kovalyov

Sergey Kovalyov Software Engineer 31.01.2013 16:17

Каким это образом?

proger

proger 31.01.2013 16:25

ну как-бы пшп код «из коробки» горизонтально маштабируемый, т.е. просто ставишь второй сервер, запускаешь, вот и все фактически

Sergey Kovalyov

reality_hacker 31.01.2013 21:21

Ну дык хайлоад вот такой и есть. Большинство проблем упирается в пляски с бубном вокруг БД.

proger

proger 31.01.2013 21:52

ну тут тоже есть специфика — а если база на мєйнфрейме ? танцы с бубном могут быть отложены на очень долго

reality_hacker 31.01.2013 21:54

Это если денежка есть. Выхлоп за бакс у мейнфреймов очень низкий.

proger

Нестор Иванович 16.05.2014 02:07

и большинство решений заканчивается настройкой схемы один мастер — много слейвов на чтение в mySQL

reality_hacker 16.05.2014 02:08

Или какую нибудь клевую NoSql прикрутить

Нестор Иванович

Нестор Иванович 16.05.2014 02:11

обычно через месяц в продакшене пролюбят что нибуть полезное, и давай назад на мускулечек

Mykola Gurov тролль 31.01.2013 23:25

Это echo «Hello, World!» у вас масштабируем из коробки? Ну так это почти у всех такое. А вы залогиньте пользователя — и уже нет.

proger

proger 31.01.2013 23:35

а что такое страшное, по вашему мнению, произойдет после залогинивания пользователя ? :)

Mykola Gurov тролль 31.01.2013 23:37

сессию где хранить будете?

proger

proger 31.01.2013 23:40

нну «из коробки» она либо в базе, но раз уж мы про чет сурьезное (раз уж нам надо «второй» сервер) то в memcached

Mykola Gurov тролль 31.01.2013 23:59

ну то есть не масштабируется из коробки, ведь база она из коробки не, а уже часть решения. Что и требовалось доказать.

proger

proger 01.02.2013 00:08

вы там определитесь — если у нас залогинивание без базы, то это еще больший хелловорд, который наверное и рассматривать не стоит.

ибо ващета «платформа» называется lamp , предполагается что база и вебсервер это из коробки

Mykola Gurov тролль 01.02.2013 00:12

повторюсь: платформа lamp из коробки не масштабируема. Ибо m.

proger

proger 01.02.2013 00:16

расскажите это гуглю у которых мускуль в ютубе и адсенсе

Mykola Gurov тролль 01.02.2013 00:19

они его туда из твоей коробочки положили? Нет.

proger

proger 01.02.2013 00:42

гм. мускуль из коробки поддерживает всякие эти репликации и все остальное, я уж не говорю про кластерный вариант мускуля

Ivan Havryshko Senior Software Engineer в TriNet 01.02.2013 01:23

реплікацію то підтримує, а ваш код на php реплікацію підтримує? чи далі і писати і читати буде в той самий хост? чи модерн фрейворки і патерни теж у вас в «коробці»? :)

proger

proger 01.02.2013 02:12

ну якщо замкнутися на мускуль, то можна mysql proxy підняти , яка і буде розподіляти запис і читання.
але це зовсім не відноситься до пшп :)

Ivan Havryshko

Sergey Kovalyov Software Engineer 01.02.2013 01:05

Взяли MySQL, установили «из коробки» и получился YouTube. Все так делают. Говно вопрос. День работы и «ютюб готов»!

proger 01.02.2013 02:13

ггы. нну-ну

Sergey Kovalyov

Ivan Havryshko Senior Software Engineer в TriNet 01.02.2013 01:21

Бугага! — сорі ще раз.

proger

proger 01.02.2013 00:29

и вообще я больше про язык пшп — его єто state less противное, которое share nothing , из-за чего даже static переменные очищаются после отработки , приводит к тому, что изначально пишется код, без всех этих локальных кешей и т.д.
в результате сам пшп код масштабируется без проблем

Mykola Gurov тролль 01.02.2013 00:30

да, сверический ПХП код в вакууме масштабируется неплохо.

proger

proger 01.02.2013 00:41

на практике, в вакууме нет

reality_hacker 01.02.2013 01:11

Шардинг большая проблема.

proger

proger 01.02.2013 02:14

но шардинг от языка «морды» не зависит

reality_hacker 01.02.2013 02:18

Ну в некоторых язычках уже есть либы которые пытаются решыть эту проблему. docs.jboss.org/...en/html_single

proger

proger 01.02.2013 03:00

это то что мне не нравиться в java
фактически для двух функций
getShardDBForId
execQueryOverAllShards
написано куча кода, xml и доки и только в конце узнаешь, что впринципе оно не живое

п.с. нет, хорошо что они хоть аггрегацию и сортировку частично сделали , иначе смысла в этой либе было бы вообще 0

reality_hacker 01.02.2013 04:08

Ну как скажешь, о гуру.

proger

proger 07.02.2013 02:54

гы. случайно встретил ссылку варианта на пшп + mysql proxy
code.google.com/p/shard-query

reality_hacker 07.02.2013 02:59

Для аналитики и MPP такого гавна хватает, самое популярное опен сорс www.jboss.org/teiid. Для OLTP тема намного слабее развита, особено когда дело доходит до решардинга. На этой волне и появились всякие mongodb и прочие кассандры и hbase-ы

proger

Ivan Havryshko Senior Software Engineer в TriNet 01.02.2013 01:20

А після сесії в

memcached

відразу наступає dogpile-effect обхід якого «з коробки» в php нема.

proger

proger 01.02.2013 02:29

для сесій dogpile-effect не наступає (вгадайте чому ? :)
а от races можуть, но воно вирішується

Ivan Havryshko

Mykola Gurov тролль 01.02.2013 21:12

а умел бы хайлоад — легко отмазался бы: «-на клиенте» :P

proger

proger 01.02.2013 23:51

на клиенте — то извращение

Mykola Gurov тролль 02.02.2013 00:38

Отнюдь.

proger

proger 02.02.2013 01:04

кукисы ?
а размеры как ?
и что делать с races на хроме ? ну когда хром видит сразу два кукиса с одним именем ? :)

Mykola Gurov тролль 02.02.2013 14:01

а размеры как ?

А не шлите лишнего

proger

proger 04.02.2013 10:10

смешно

Ivan Havryshko Senior Software Engineer в TriNet 01.02.2013 01:17

Бугога! — сорі, більше сказати на цей комент нічого.

proger

Макс Матюхин программист в Badoo 01.02.2013 16:23

99.5% пхп-шников не в состоянии сделать масштабируемый сайт

proger

Kirill Sablin Developer 01.02.2013 16:30

Вы себя к 0.5% относите?

Макс Матюхин программист в Badoo 01.02.2013 16:43

А почему вы спрашиваете ?

Kirill Sablin

Kirill Sablin Developer 01.02.2013 17:20

Сложный вопрос?

99.5% пхп-шников

обычным php-программистом

наводит на мысль, что Вы считаете себя необычным php-программистом

Макс Матюхин программист в Badoo 01.02.2013 17:23

Я отвечу на него если вы ответите почему из десятка людей, которые участвуют в дискуссии, вас заинтересовала именно моя квалификация

Kirill Sablin

proger 01.02.2013 16:51

лєпо видеть человека оперирующего точными цифрами :)
но как мы ниже обсудили — сам пшп код изначально масштабируемый , затыки возникают с базами и т.д.

Макс Матюхин программист в Badoo 01.02.2013 17:05

Нельзя так просто взять сайт, написанный обычным php-программистом и запустить на нескольких серверах. Кроме базы будут еще проблемы с сессиями. Да и с базами — если их стало несколько то надо код поменять чтобы они делали коннекты правильно. Если выбрали мастер-слейв репликацию — надо научить код делать коннект к мастеру для insert/update/delete запросов и коннект к слейву на чтение (с редкими исключениями)

proger

proger 01.02.2013 17:28

какие же проблемы будут с сессиями ?

Да и с базами — если их стало несколько то надо код поменять чтобы они делали коннекты правильно. Если выбрали мастер-слейв репликацию — надо научить код делать коннект к мастеру для insert/update/delete запросов и коннект к слейву на чтение (с редкими исключениями)

я вроде приводил вариант с mysql proxy которая позволяет отправлять запросы к слейвам, а изменения данных слать мастер-базе, без изменения кода

Макс Матюхин программист в Badoo 01.02.2013 17:34

какие же проблемы будут с сессиями ?

по умолчанию пхп хранит сессию в файле.

proger

proger 01.02.2013 17:41

вот не знаю, я уже года 4 пшп занимаюсь, не то что бы много повидал, но все же, но вот что бы сессии хранились в файлах — не видел.
большинство фреймворков предлагают решения что бы хранить сессии в базе-мемкеше.

и даже если вдруг, таки используются файлы — подключаем либу , и все, код менять не надо

Макс Матюхин программист в Badoo 01.02.2013 17:37

а изменения данных слать мастер-базе, без изменения кода

Слейв может отставать от мастера и иногда нужно делать селекты на мастер чтобы показать юзеру правильные данные. Как ты это сделаешь на уровне mysql-proxy ?

proger

proger 01.02.2013 17:46

нну mysql proxy скриптуется
и опять таки — єто не проблема маштабируемости пшп, это проблема маштабируемости данных

Макс Матюхин программист в Badoo 01.02.2013 17:53

У тебя есть реальный проект, написанный тобой, который работает по такой схеме с mysql-proxy ?

proger

proger 01.02.2013 23:55

нет. не повезло — быдлокодеры успевали изобрести велосипед раньше

Roman 31.01.2013 11:54

в руби-мире можно накатить патчей для ускорения рубей, и думать что ты оптмизировал код под хайлоад. наверно для большинства этого достаточно

AGS 31.01.2013 01:36

наличие кластера?

proger 31.01.2013 01:09

как по мне, «легкий» хайлоад начинается где-то со 100 нестатичных страничек и 1к запросов в секунду(он может и не хайлоад вовсе но уже возникает потребность тюнить), ежели 500-1000 нестатичных страничег в секунду и примерно 5-10к запросов в секунду то это уже чет похожее на хайлоад

AGS 31.01.2013 01:37

и как вы тюните при таких объёмах?

proger

proger 31.01.2013 03:06

та вроде алгоритм стандартный — профайлинг, выявление критических мест, устранение оных

AGS

Макс Матюхин программист в Badoo 07.02.2013 02:11

На таких нагрузках надо изначально следить за загруженностью системы. Позволю себе прорекламировать свою же статью по этому поводу — habrahabr.ru/...oo/blog/149695

AGS

Vasya Pupking 18.02.2021 18:57

а 2-3 млн запросов в секунду на кластер?

proger

proger 18.02.2021 19:23

алигарх в чатиге. ховайтесь пацаны

Vasya Pupking

Bogdan Shyiak SE or Dev 31.01.2013 01:05

Не придумаете вы определенного числа. Банально с ростом мощностей (и вычислительных, и ИО) это число будет меняться с каждым годом, а то и быстрее.

Highload (как навык) — это скорее умение сделать так чтобы с ростом нагрузки, софт все еще работал, в идеале на том же железе (но неизменность железа совсем не обязательна).

Artem Stoyanov 31.01.2013 01:16

Несомненно, это верно. Просто я написал число реквестов в сутки с учетом своременных мощностей, имхо начиная с которого нужно думать о кластеринге, лоадбалансере, сложных алгоритмах работы кэша (зачастую многоуровневого), распаралеливании чтения-записи из DB и т. д.

Artem Stoyanov 31.01.2013 00:23

Конечно, понятие highload, несколько расплывчато и зависит от деталей системы о которой идет речь, но по интуитивным ощущениям и исходя из собственного опыта, я бы начинал говорить о highload-системе с 200-300 миллионов реквестов в сутки для http или с полмиллиарда, скажем, для самописных протоколов, базирующихся на udp.

Bogdan Shyiak SE or Dev 31.01.2013 13:47

о highload-системе с 200-300 миллионов реквестов в сутки

А тут jobs.dou.ua/...vacancies/2335 пишут: «работать в настоящем hi-load проекте (более 5 млн хитов в сутки)»
Так шо хайАПлоад бывает разный :)

Artem Stoyanov

Sergii Voloshyn Product Manager в DOU.ua 31.01.2013 15:08

Prom еще не самый худший пример UA-хайлоада.

Bogdan Shyiak SE or Dev 31.01.2013 20:50

Prom еще не самый худший пример UA-хайлоада.

А я и не говорил что "худший"/"плохой«. Просто «все относительно ребята».

Sergii Voloshyn

Sergii Voloshyn Product Manager в DOU.ua 31.01.2013 20:54

У ДОУ сегодня был хайлоад после публикации зарплатного отчета :(

Oleksandr Kholodov CEO в Yalantis 02.02.2013 10:34

Так ведь радоваться же надо :)

Sergii Voloshyn

Sergii Voloshyn Product Manager в DOU.ua 02.02.2013 10:42

Пользователей было не очень много онлайн — порядка 250, но из-за того, что какой-то параметр (типа макс. кол-ва подключений) был неправильно настроен, сайт где-то час работал с перебоями.

Oleksandr Kholodov

Oleksandr Kholodov CEO в Yalantis 02.02.2013 10:43

Действительно, не повод радоваться.

Sergii Voloshyn

Sergii Voloshyn Product Manager в DOU.ua 02.02.2013 10:50

А так на ДОУ наибольший всплески посещаемости (когда 800 человек онлайн) после публикации новостей типа «Макси-шоу в компании ...», но тоже радости мало.

Oleksandr Kholodov

Vasya Pupking 18.02.2021 18:55

500млн в сутки? Это ваще не нагрузка даже. У нас в команде на систему нагрузка до 20к RPS на хост и до 3-4M RPS на кластер.

Artem Stoyanov

Нестор Иванович 31.01.2013 00:07

как у вас дым с серверов пошел так и хайлод лол
у рубистов хайлоад с трех юзеров на сайте же стартует, им просто.
я бы говорил о транзакциях в секунду скорее. небольшая рекламная сетка генерировала больше тысячи реквестов к бд в секунду, подозреваю что это уже был маааленький хайлоад

Alexandr Gavriluk 31.01.2013 00:13

Ну была промышленная системка на Delphi + Firebird, там сейчас более 3000 запросов к базе в секунду (в основном от датчиков). Такая вот красивая трехзвенка.

Нестор Иванович

Нестор Иванович 31.01.2013 00:42

ну так можете мерять корону хайлодиста. Основной массе руби хипстоты до такой нагрузки еще расти и расти :)

Нестор Иванович 31.01.2013 00:45

к стати что мне кажется сейчас принято называть хайлоадом все что имеет инфраструктуру сложнее чем работа с одной базой. настроили чтение с реплицированой базы- ппц гуру хайлоада в треде. В общем баз ворд это, можно не парится :)

Sergey Pogorelov SDE 31.01.2013 14:37

немножко придираюсь ... но большинство датчиков в промышленных системах в нашей стране запросы к базе самостоятельно не умеют генерировать.... так что наверное это приложение на Делфи 3000 переменных в секунду в базу складывало ? Ну или несколько приложений.... ;) ?

Alexandr Gavriluk 31.01.2013 14:45

На датчиках висели микроконтроллеры, которые по udp обращались к серверу приложений на Delphi (middleware) и уже приложение работало с базой. Плюс терминал оператора, который тоже работал с базой.

Sergey Pogorelov

Sergey Pogorelov SDE 31.01.2013 15:09

да, хорошая система .. архитектура в принципе классическая и как по мне очень удачная , но все же подключений к базе немного ... хотя для Firebird 3000 записей в секунду достаточно хорошая нагрузка.

Для меня тоже термин Highload не совсем понятен :) точнее я общался с людьми которые делают очень большие проекты .. но там ....как уже писали .. кластера , кеши многоуровневые и тд и тп ... вообщем расплывчатое очень понятие сейчас... наверное он правда для всех технологий разный

оффтопик: А база быстро росла ? За большой период там данные хранили ?