AWS bevetette az NVIDIA Blackwell GPU-kat — négyszeres AI-gyorsulás az új G7-es gépekkel

Az Amazon EC2 G7-es példányai mától általánosan elérhetők, és nagy teljesítményű GPU-gyorsítást biztosítanak AI-inferencia, grafika és adatelemzési feladatokhoz. Az AWS az első nagy felhőszolgáltató, amely támogatja az NVIDIA RTX PRO 4500 Blackwell Server Edition GPU-kat — közölte az AWS News Blog.

Az új G7-es gépek akár 4,6-szeres AI-inferencia-teljesítményt és 2,1-szeres grafikai teljesítményt nyújtanak a G6-osokhoz képest, köszönhetően a hatodik generációs Intel Xeon Scalable processzoroknak és az új GPU-knak. Az AWS szerint a G7-es példányok gyorsabb GPU-gyorsítású analitikát kínálnak Amazon EMR-en és Amazon EKS-en is.

Kapcsolódó: NVIDIA GPU MIG-támogatás

A G7-es példányok alkalmasak AI-inferenciára, grafikai renderelésre, videótranszkódolásra, térbeli számításokra, virtuális asztali infrastruktúrára (VDI) és adatelemzésre. Az új GPU-k 1,33-szor nagyobb GPU-memóriakapacitást és 2,45-szeres GPU-memóriab sávszélességet kínálnak a G6-hoz képest, 32 GB memóriával GPU-nként, 5. generációs Tensor Core-okkal és 4. generációs RT Core-okkal.

Kapcsolódó: Nvidia Mission Control

A hálózat és tárolás is fejlődött: a G7-es példányok 700 Gbps EFA-alapú hálózati átvitelt biztosítanak, ami hétszerese a G6-nak, és akár 7,6 TB helyi NVMe SSD-tárhelyet is támogatnak. Az új, kilencedik generációs NVENC és hatodik generációs NVDEC motorok 4:2:2 kódolást és dekódolást tesznek lehetővé, 1,5-szer több egyidejű videostreamet támogatva, mint a G6.

Kapcsolódó: Nemotron 3 Amazon Bedrockon

Az EC2 G7-es példányok akár 8 NVIDIA RTX PRO 4500 Blackwell GPU-t, 256 GB teljes GPU-memóriát és egyedi Intel Xeon Scalable processzorokat tartalmaznak. Hét méretben érhetők el, maximum 192 vCPU-val, 768 GiB rendszermemóriával és 7,6 TB SSD-tárhellyel. Az AWS az US East (Ohio) és US West (Oregon) régiókban tette elérhetővé az új példányokat.

Kapcsolódó: Amazon Redshift gyorsítás