- Mac Studio M5 Ultra vygeneroval za hodinu nepřetržité zátěže 980 tisíc tokenů
- Milion tokenů stál při ceně 6 Kč za kWh méně než půl koruny
- Teplota čipu se po pěti minutách ustálila na 66 °C a Mac za celou hodinu nezpomalil
Mac Studio a lokální AI
Kolik vlastně stojí provoz lokální umělé inteligence? Mac Studio s čipem M5 Ultra a 256 GB paměti jsme nechali hodinu bez přestávky generovat text a každých deset sekund zapisovali rychlost, příkon a teplotu čipu. Za hodinu vzniklo 980 tisíc tokenů, čip si vzal v průměru 73 W a teplota grafiky se zastavila na 66 °C.
Obsah článku
Jak jsme měřili
Testovali jsme Mac Studio s čipem M5 Ultra: 36jádrový procesor (12 jader Super a 24 jader Performance), 80jádrová grafika, 256 GB sjednocené paměti a macOS 27.0.1. Kromě testu na něm nic jiného neběželo.
Model byl gpt-oss-20b od OpenAI ve verzi MXFP4-Q8 pro knihovnu MLX od Applu (MLX 0.32.4, mlx-lm 0.32.2). Jde o model typu MoE s 21 miliardami parametrů, z nichž se na každý token používá zhruba 3,6 miliardy. V paměti zabírá asi 12 GB. Model dostával stále stejné zadání: napsat dlouhý technický článek o tom, jak funguje moderní spalovací motor. Každé generování mělo strop 2 000 tokenů a pak začalo znovu. Text generovalo současně šestnáct samostatných programů, každý s vlastní kopií modelu. Simuluje to šestnáct uživatelů nebo AI agentů najednou. Test běžel celou hodinu bez přestávky.
Každých 10 sekund jsme zapsali počet vygenerovaných tokenů, příkon čipu a průměrnou teplotu procesoru a grafiky. Hodnoty čte macOS přímo z čipu, zaznamenávali jsme je nástrojem macmon 0.10.0. Spotřebu jsme spočítali jako průměrný příkon krát dobu běhu.
Výsledky
Za hodinu vzniklo 980 tisíc tokenů, v průměru 273 za sekundu. Rychlost se od začátku do konce testu prakticky neměnila.
| Mac Studio M5 Ultra | 16 proudů |
|---|---|
| Délka testu | 60 min |
| Vygenerováno | 980 tisíc tokenů |
| Rychlost (tokenů za sekundu) | 273 |
| Příkon čipu, průměr | 73 W |
| Teplota CPU / GPU po ustálení | 63 / 66 °C |
| Energie na 1 milion tokenů | 0,074 kWh |
| Cena 1 milionu tokenů při 6 Kč/kWh | 0,45 Kč |
Mac Studio M5 Ultra hodinu pod zátěží nezpomalil
gpt-oss-20b v MLX, 16 proudů najednou, průměry po minutách. Najeďte myší nebo prstem na graf.
Zobrazit data v tabulce
Vlastní měření 21. 10. 2026 · Mac Studio M5 Ultra, 256 GB, macOS 27.0.1 · příkon a teplota čipu podle macOS (nástroj macmon), bez ventilátorů, disku a ztrát zdroje.
Kde je brzda: rychlost paměti
Při generování textu Mac nebrzdí výpočetní výkon, ale rychlost paměti. Pro každý token musí grafika přečíst potřebnou část modelu z paměti a většinu času na data čeká. Proto si čip i při šestnácti proudech vzal jen 73 W.
Šestnáct samostatných programů si grafiku střídavě dělí a každý si model čte zvlášť. Dohromady dají 273 tokenů za sekundu, na jeden proud ale připadá jen kolem 17. Pro jednoho člověka u chatu je to málo, pro skupinu agentů, kteří pracují na pozadí, to stačí. Skutečné servery pro jazykové modely to řeší jinak: dotazy více uživatelů zpracují v jedné dávce, takže model přečtou jednou pro všechny. Takový provoz z Macu dostane výrazně víc tokenů za sekundu. To jsme v tomto testu neměřili.
Teploty a stabilita
Teplota grafiky vystoupala ve čtvrté minutě na 70 °C, pak klesla a od páté minuty se držela na 66 °C. Procesor se ustálil na 63 °C. Ventilátory si s teplem poradily, aniž by čip musel zpomalit: v první i poslední šestině testu Mac generoval 272 tokenů za sekundu.
Kolik stojí elektřina
Hodina plné zátěže se šestnácti proudy spotřebovala 0,073 kWh, tedy při 6 Kč za kWh asi 44 haléřů. Kdyby Mac takhle běžel bez přestávky celý den, zaplatili byste za elektřinu kolem 10,50 Kč, za měsíc zhruba 315 Kč. Na jeden milion tokenů vychází 0,074 kWh, což je 0,45 Kč. U lokálního provozu tak elektřina prakticky nehraje roli. Rozhoduje cena samotného počítače.
Co test neukazuje
- Příkon celého počítače. Měřili jsme jen čip (procesor, grafiku a Neural Engine). Ventilátory, disk, síť a ztráty ve zdroji v číslech nejsou, takže ze zásuvky bude spotřeba o něco vyšší.
- Dávkové zpracování. Šestnáct samostatných programů není totéž co server, který obslouží více uživatelů v jedné dávce. Ten by z Macu dostal víc tokenů za sekundu.
- Velké modely. gpt-oss-20b je malý a rychlý. U hustého modelu se 70 miliardami parametrů by zátěž i spotřeba vypadaly jinak.
- Kvalitu textu. Měřili jsme jen rychlost a spotřebu, ne to, co model napsal.
Zdroj: vlastní měření, famstack
Obrázky. Ludvík Eckerman, vygenerováno Midjourney
