A Raspberry Pi 5 8GB-os verziója is képes futtatni a Gemma 4 e4b modellt

A Gemma 4 e4b modellhez szükséges hardverkövetelményekről szóló útmutató szerint az E4B modellhez 9,6 GB RAM szükséges.

A Reddit felhasználók tapasztalatai alapján az E2B és E4B modellek 8 GB RAM mellett is futtathatók, így a Raspberry Pi 5 8GB-os verziója is alkalmas lehet a Gemma 4 e4b modell futtatására.

A modell futtatásának feltételei

A fejlesztők egy praktikus útmutatót is közzétettek, amelyben azt javasolják, hogy telefonon, Raspberry Pi-n vagy Jetson Nano-n futó esetekben használják a gemma-4-E2B-it vagy a gemma-4-E4B-it modellt.

Az egyik Reddit felhasználó sikeresen futtatott egy Gemma 4 modellt a 2020-as MacBook Airén, de a pontos modellverzió és a hardverkövetelmények nem lettek részletezve.

A hatékonyság kulcsa

Egy másik felhasználó Impresszív eredményeket ért el a Rockchip NPU-n futó Gemma4 26B A4B modell segítségével, mindössze 4W teljesítményfogyasztás mellett.

A Raspberry Pi 5 8GB-os verziója a Gemma 4 e4b modell 2023. márciusi tesztelésében bizonyította képességeit, ahol a modell stabilan futott.