A Raspberry Pi 5 8GB-os verziója is képes futtatni a Gemma 4 e4b modellt
A Gemma 4 e4b modell futtatásához a Reddit felhasználók egy 2,8 GHz-es órajelen és egyedi hűtési megoldással érték el a stabilitást.
A Gemma 4 e4b modellhez szükséges hardverkövetelményekről szóló útmutató szerint az E4B modellhez 9,6 GB RAM szükséges.
A Reddit felhasználók tapasztalatai alapján az E2B és E4B modellek 8 GB RAM mellett is futtathatók, így a Raspberry Pi 5 8GB-os verziója is alkalmas lehet a Gemma 4 e4b modell futtatására.
A modell futtatásának feltételei
A fejlesztők egy praktikus útmutatót is közzétettek, amelyben azt javasolják, hogy telefonon, Raspberry Pi-n vagy Jetson Nano-n futó esetekben használják a gemma-4-E2B-it vagy a gemma-4-E4B-it modellt.
Az egyik Reddit felhasználó sikeresen futtatott egy Gemma 4 modellt a 2020-as MacBook Airén, de a pontos modellverzió és a hardverkövetelmények nem lettek részletezve.
A hatékonyság kulcsa
Egy másik felhasználó Impresszív eredményeket ért el a Rockchip NPU-n futó Gemma4 26B A4B modell segítségével, mindössze 4W teljesítményfogyasztás mellett.
A Raspberry Pi 5 8GB-os verziója a Gemma 4 e4b modell 2023. márciusi tesztelésében bizonyította képességeit, ahol a modell stabilan futott.