Kisméretű AI-kártyát dob piacra a Google — helyben futtatja a Gemma 3 modellt

A Google bemutatta a Coral Boardot, egy apró, egykártyás számítógépet, amely kifejezetten a helyi AI-feladatok elvégzésére készült. A fejlesztés célja az AI-gyorsítók töredezettségének csökkentése, és olyan kis méretű eszközökben való elhelyezés, mint fejhallgatók, AR-szemüvegek vagy okosórák.

A kártya központi eleme a Google Research által fejlesztett, RISC-V architektúrán alapuló Coral NPU. A Synaptics Astra SL2619 chip 2 GHz-es kétmagos processzorral, 2 GB RAM-mal és 1 TOPS számítási kapacitással rendelkezik. A Google kissé régebbi, nyílt forráskódú Gemma 3 270M nyelvi modellje teljesen a kártyán fut, felhőkapcsolat nélkül.

Kapcsolódó: helyi AI fejlemények

Az AI színpadon

A Google I/O rendezvényen bemutatott demók között szerepelt valós idejű fordítás, hangvezérlésű hardverek és egy generatív zenei előadás. Utóbbi során egy YOLOv8 modell követte a medúza mozgását, és alakította zenévé azt. Az összes bemutatott projekt nyílt forráskódú a GitHubon.

Kapcsolódó: AI-kutatás kihívásai

A Coral Board jövője

A Coral Board várhatóan még idén nyáron megjelenik, de a Google még nem jelentette be a pontos árát. A Gemma 3 modell képes szöveges, képi, videó és hangbemenetek feldolgozására, és több mint 140 nyelven képes szöveges kimenetet generálni. A Coral Board első szállításai a Google I/O rendezvényen bemutatott fejlesztői készülékek lesznek, 2024. júniusban.

Kapcsolódó: TPU chip újdonságok