Як Preply скоротила витрати на LLM на 46% до масштабування AI-фіч
Sviatoslav Yaremko
5191
Святослав Яремко, Senior Software Engineer у Preply, ділиться досвідом оптимізації витрат на LLM. Коли AI-фічі стають успішними, настає етап масштабування. У блозі автор розповідає про те, як команда переосмислила роботу з токенами задля кратного зростання без втрати якості. 5