Az M5 Max Macbook Pro 128GB RAM-mal verné az 8-bit-es rekordot
A tesztek szerint a M5 Max 128GB RAM-mal akár 76GB méretű modelleket is képes kezelni.
A legújabb Apple M5 Max MacBook Pro 128 GB RAM-mal tesztelés szerint képes 76 GB méretű Qwen 3 Coder Next 8‑bit modelleket futtatni. A Reddit LocalLLaMA felhasználója a Qwen 2.5 72 B (körülbelül 76 GB) konfigurációt futtatta a Q8_0 precizitással, és a rendszer sikeresen kezelte a memóriakapacitást.
Ez a teljesítmény jelentős előrelépés a korábbi M4 Max‑al szemben, amely legfeljebb 64 GB memóriát tudott támogatni. Az új M5 Max 128 GB-os konfiguráció tehát a legnagyobb helyi LLM‑ek futtatásához nyitja meg a kaput, és lehetővé teszi, hogy a fejlesztők és kutatók nagyobb nyelvi modelleket teszteljenek anélkül, hogy felhőalapú erőforrásokra lenne szükség.
Az Apple 2026‑ban bejelentett M5 Max chipje 614 GB/s memóriavidezet és 15 % magasabb szálas teljesítményt kínál, ami a memóriaképesség mellett a számítási sebességet is növeli. A Qwen 3 Coder Next 8‑bit benchmarkon a 128 GB-os memória a modellméretet korlátozó tényezőként vált a legnagyobb lehető méretre, míg a CPU és GPU együttes teljesítménye a futtatási időt jelentősen csökkenti.
Az LLM-ök piacon az Apple újabb hardverének megjelenése megerősíti a helyi modellfuttatás trendjét. A fejlesztők most már nem csak a felhőben, hanem a saját gépükön is képesek nagy, 70–80 GB-os modelleket futtatni, ami versenyképes alternatívát kínál a Google, Microsoft és OpenAI felhőszolgáltatásai mellett.
Jelenleg a M5 Max 128 GB konfiguráció elérhető az Apple Store-ban, és a felhasználók a Qwen 3 Coder Next 8‑bit benchmarkot saját környezetükben is reprodukálhatják. A következő hónapokban várható, hogy további LLM-ek, például a Qwen 3 80 B vagy a Claude 3 70 B is elérhetővé válnak a 128 GB-os memóriával rendelkező MacBook Pro-ken, ami még szélesebb körű alkalmazási lehetőségeket nyit meg a mesterséges intelligencia kutatásában.