Гарячі AI LLM-тести MacBook Air M3 | Чи варто переходити | Порівняння з Air М1

Мої враження, досвід використання та результати тестів на MacBook Air M3. Нагрівання, GPU offload, тест LlamaCPP LLM test та порівняння з М1

Матеріали:

www.apple.com/...​-for-a-personal-computer

llama-cpp-python.readthedocs.io/en/latest/api-reference

huggingface.co/...​ncept_guides/quantization

huggingface.co/...​loke/Llama-2-7B-Chat-GGUF

www.reddit.com/...​mac_n_gpu_layers_n_batch llama-cpp-python.readthedocs.io/en/latest/install/macos

github.com/...​d-test?tab=readme-ov-file

llama.meta.com/llama2

deci.ai/...​s-for-running-gguf-files

github.com/...​de/Hot/releases/tag/1.9.1

00:00 Тема тижня

02:30 Готуємося до тестів

04:20 Нові-старі фішки

04:45 Два монітори

05:48 Зовнішній вигляд

07:10 Акумулятор

08:20 Памʼять RAM

08:45 8 чи 16?

09:20 Камера та мікрофон

10:36 Робочий простір

11:27 Два монітори

11:54 Звук

12:26 Мій набір софта

13:00 Про 13ʼ дюймів

13:23 Типи тестів

13:38 M3, M3 Pro, M3 Max

15:07 Blackmagic Raw Speed Test

16:53 Рендер відео H265 4K

17:18 LlamaCPP LLM test

17:54 Інсталяція стеку

18:47 Автоматизація тесту

19:15 Метрики

19:27 GPU offload

20:15 Перший прогін

20:27 Другий прогін

21:10 Третій прогін

21:51 Порівняння з M1/M3

22:48 M1 memory overflow

23:30 Чи варто переходити

Підписуйтеся на Telegram-канал «DOU #tech», щоб не пропустити нові технічні статті