Az AI-munkaállomás, ami veri a számítógépeket: Tenstorrent QuietBox 2 128 GB GDDR6 memóriát tartalmaz
A Tenstorrent QuietBox 2 ára 9 999 dollár lesz, és a második negyedévben jelenik meg a piacon.
A Tenstorrent QuietBox 2 benne 128 GB GDDR6 memóriát és négy Blackhole AI gyorsítót tartalmaz, amelyek együtt 480 Tensix AI gyorsítót és 128 GB GDDR6 memóriát biztosítanak.
Az IEEE Spectrum AI szerint a QuietBox 2 elegendő memóriát biztosít az OpenAI GPT-OSS-120B modell futtatásához, és olyan modelleket is képes futtatni, mint a Meta Llama 3.1 70B, akár 500 token per másodperc sebességgel.
A hiányzó láncszem
A Tenstorrent Blackhole AI gyorsító egy RISC-V chip, amelyet kifejezetten AI feladatokra terveztek, és 120 Tensix AI gyorsítót, valamint 32 GB GDDR6 memóriát tartalmaz.
Milos Trajkovic, a Tenstorrent társalapítója és rendszermérnöke szerint a 128 GB GDDR6 memória lehetővé teszi, hogy a felhasználók nagyobb modelleket futtassanak ésszerű sebességgel.
A QuietBox 2 1400 watt teljesítménnyel működik, ami jóval kevesebb, mint a Nvidia DGX Station 1600 wattja, és ez lehetővé teszi, hogy a készüléket bárhol használják, ahol egy hagyományos asztali számítógépet csatlakoztatnának.