Hardveres titkosítás jön az NVIDIA AI-chippjeire — minimális lassulással

Az NVIDIA új hardveres titkosítási megoldása, a Confidential Computing (CC) a Blackwell GPU-kra építve kínál biztonságot az AI-inferencia során. A technológia célja, hogy megvédje az adatokat, a kódot és magát a modellt az illetéktelen hozzáféréstől, miközben minimálisra csökkenti a teljesítménycsökkenést.

A CC hardveres szintű védelmet biztosít, beleértve a gyártás során beégetett titkosítási kulcsokat, a NVLink titkosítást és a távoli attesztációt az NVIDIA Remote Attestation Service (NRAS) segítségével. Ez lehetővé teszi a bizalmas virtuális gépek (CVM) integritásának ellenőrzését, mielőtt azok titkosított adatokat kapnának.

Kapcsolódó: memóriahiány AI-ban

A tesztek szerint a CC engedélyezése mindössze 8% alatti átfutási és token-látencia többletterhelést jelent a Qwen 3.5-397B-A17B-FP8 modell futtatásakor a HGX B300 platformon. Ez azt jelenti, hogy a biztonsági funkciók ellenére a teljesítmény 98%-át megőrzi a nem titkosított megoldásokhoz képest.

Kapcsolódó: AI-biztonság kockázatai

A teljesítményoptimalizálás érdekében olyan szoftveres fejlesztéseket is integráltak, mint a FlashInfer és a SGLang. Ezek a fejlesztések csökkentik a biztonsági protokollok miatti többletterhelést, így a CC alkalmas lehet termelési környezetben, szabályozási követelményeknek megfelelő AI-inferenciára.

Kapcsolódó: autonóm AI-ügynökök biztonsága