Коментарі

Есть понятие буква и дух закона. Ты читаешь закон буквально. И ты прав. То, что ты говоришь там написано.
загалом цікава історія тож на мою думку зараз індокитай вже дуже агресивно тіснить індію і то є вже навіть помітно вже саме «на місцях»
в перший свій робочий день вона почула від тімліда, що той відробляє свої останні 2 тижні в компанії і звільняється моє улюблене питання «на позицію» то є «а куди старого діли?» )) работає залізно я провіряв
а там виявилося що це русня (справжня а до речі як тут уже трапилося і саме за темі «зелене світло на співбесіді» ... а ви (тут узагальнення) досі не робите свій власний «бекграунд чек» на компанію?
json.parse буде блокувати івент луп (як і всі інші операції), а якщо розкинути обробку ріквестів користувача на пул воркерів через раунд робін/інші алгоритми має підвищити обробку запитів якщо в тебе >1 одночасних користувачів на сервері.
Ні, я проти фреймворків (llamaindex, langchain) які працюють поверх llm. Де сама llm хоститься — в програмі чи окремо, це вже інше питання, зручніше, звісно, щоб окремо ) Я мене зв’язка litellm -> ollama.
Дякую тобі ❤️
Перепрошую, я думав ви якраз були проти використання LiteLLM proxy чи inference движків типу LocalAI чи Ollama. Я думав ви якраз пропонували це не використовувати і запускати модель на пряму із коду.
По бурану не знаю. Но телеметрия на его ракетоносителе Энергия была на 588 процессоре, но могу ошибаться, я туда пришел позже. Но схема на нем была уже накатана, поэтому не исключаю, что на энергии они его отлаживали
Можна на окремому сервері запустити, особливо якщо там А100 карта якась для ML/AI. Можна використовувати таку модель із різних клієнтів, різними додатками різними юзерами одночасно. Зручність короче.
Ніби оцей роадмап про заміну learn.microsoft.com/...​e-notes/features-timeline
А за 90 не партнеру можна здати? Цікаво, поки індусів не набігло Ага Перечитав Вже є Це дійсно цікаво, особливо враховуючи що згідно роадмапу Майкрософт, гітхаб action замінить azure devops
Може ім’я і прізвище як у президента
Ну ринок міняється, АІ вводить дизбаланс, по суті зараз при умові грамотного враперу для ллмки можна замінити джуна, дальше буде веселіше. В любому випадку потрібні будуть фронти з стійким розумінням браузерного апі, 3д, складні анімашки і тд.