в точку) сам хотел также написать)

домовились без масштабування(

Доброго дня, нажаль варіантів крім одного поки не домовились.
Дякую за розуміння — токсичності коментарів.
Через жорсткі обмеженя ми тримаемо в мапі CompletableFuture.
Не -масштабується, поки живемо з цим(

так, розумію що виглядає так собі. Дякую за пораду

на жаль, зараз це так не працює)

У вас є якісь рішення для цього, щось можете підсказати?

Дякую за відповідь, але кліент працює з нами тільки через http і очікує запит-відповідь =(

Ви праві, ніхто не гарантує цього. Але ніхто про це чути не хоче, потрібно зробити і все =)
Тут багато кліентів і не хочу заблокувати всі пули для запитів. А наша платформа яка обробляє запит може віддавати відповідь десь за 500 мс буває.

Дякую за відповідь, але кліент працює з нами тільки через http і очікує запит-відповідь =(