NVIDIA AI-Q Blueprint futtatható Oracle-felhőn — többügynökös rendszerekhez

Az NVIDIA AI-Q Blueprint egy nyílt forráskódú referenciamodell a hosszú távú, több lépéses feladatokat megoldó, többügynökös AI-rendszerekhez. A rendszer a LangChain Deep Agents és az NVIDIA NeMo Agent Toolkit alapjaira épül, és gyors, hivatkozásokkal ellátott válaszokhoz, vagy hosszabb kutatási jelentésekhez használható — írja az NVIDIA Developer Blog.

A friss útmutató részletesen bemutatja, hogyan telepíthető az AI-Q 2.0 az Oracle Cloud Infrastructure (OCI) felhőjére. A folyamat Terraformot használ az OCI erőforrások létrehozására, és Helmet a munkafolyamatok telepítésére az Oracle Kubernetes Engine (OKE) klaszteren. A cél egy működőképes AI-Q végpont létrehozása az ügyfél saját OCI környezetében, amelyet egyetlen paranccsal le is lehet bontani.

Kapcsolódó: AI-ügynökök telepítése Jetsonokon

Az AI-Q többügynökös architektúrája

Az AI-Q egy többügynökös felépítést alkalmaz, ahol egy „intent router” kezeli a felhasználói lekérdezéseket, és a megfelelő munkafolyamathoz irányítja azokat. Ez a rendszer képes gyors, korlátok közé zárt, eszközökkel támogatott kutatást végezni (Shallow Research Agent), vagy mélyebb elemzést végezni egy tervező és egy kutató alügynök segítségével (Deep Agent), amelyek megosztott fájlrendszert használnak és homokozóban futtatnak feladatokat. Az architektúra bővíthető, lehetővé téve a modellek, eszközök, RAG (Retrieval-Augmented Generation) backendek, alügynökök és kiértékelők cseréjét YAML konfiguráción vagy a NeMo Agent Toolkit bővítőrendszerén keresztül.

Kapcsolódó: GPU-flottafelügyelet

OCI telepítési architektúra és lépések

A telepítés során a Terraform felel az OCI erőforrások — mint a VCN (Virtual Cloud Network), OKE klaszter, terheléselosztó (Load Balancer) és Vault (kulcstároló) — létrehozásáért. Ezt követően a Helm telepíti az AI-Q backendet (FastAPI alapú szerver), a frontend webes felületet (next.js) és a PostgreSQL adatbázist az OKE klaszterre. A teljes telepítési folyamat, beleértve az erőforrások inicializálását, a terv ellenőrzését és az alkalmazás telepítését, körülbelül 20-25 percet vesz igénybe. Ehhez szükségesek az OCI hozzáférések, API kulcsok (NVIDIA NGC és Tavily), valamint a Terraform 1.5+, kubectl 1.28+ és Helm 3.x+ helyi telepítése.

Kapcsolódó: AI-ügynökök ellenőrzött készségekkel

A folyamat végén a felhasználók egy production-ready AI-Q végpontot kapnak, amely hosszú távú, több lépéses feladatok megoldására képes, és amelynek eltávolítása mindössze egyetlen paranccsal elvégezhető.

Kapcsolódó: AI-infrastruktúra élettartam-kezelés