Де ж його знайти, цей енкломіфен. В аптеках немає, продається оптом в порошку, лікарі часто про нього і не чули.

Вітаю:)
суть рішення зводиться до класу FunctionDefinition, коротче вже немає куди:)

Весь наступний код є прикладом використання цього класу і function calling загалом.

Тут назва «function calling» трохи збиває з пантелику. Виклик функцій відбувається локально, тобто це робите ви так як вам зручно. А задача на стороні OpenAI це підготовка аргументів для виклику функції.

Напишіть авторам пітону, хай видаляють to_thread.

Я сподівався що зрозуміло що стаття орієнтована на тих, в кого ще немає навички читати документацію, або чий рівень англійської недостатній щоб робити це ефективно.

Що ж, думаю Ви праві і явне створення все ж таки зайве в прикладах. Оновлю їх.

Дякую за підказку, стало краще!

+

В таком подходе нет большой проблемы и вот почему:
лейер всего 1, все лямбды его используют, а так как при равномерной нагрузке или при прогревании всегда есть «разогретые» лямбды, то cold starts в 99% случаев не происходят и размер лейера ни на что не влияет. Подобный подход я видел и в других фреймворках, например Zappa.

Более того, считаю что не удобно и не оптимально иметь отдельные списки зависимостей под каждую лямбду. Хотя иногда в этом есть смысл, при жирных зависимостях (например 1 лямбда отвечает за работу с PDF, тогда соотв зависимость можно добавить только на эту конкретную лямбду). Обычно же для стандартной апишки не более 5-25 либ, общим объемом до 30мб.