A NVIDIA Dynamo optimalizálja az AI-ügynökök kódgenerálását
A NVIDIA Dynamo platformja új funkciókkal bővült, amelyekkel az AI-ügynökök hatékonyabban írhatnak kódot, jelentősen javítva a teljesítményüket.
A NVIDIA bemutatta a Dynamo platformjának frissítését, amely a kódoló AI-ügynökök teljesítményét hivatott növelni. A fejlesztések célja, hogy az ügynökök által generált kód még gyorsabban és megbízhatóbban kerüljön be a termelési rendszerekbe.
Az új Dynamo támogatja a többprotokollos API-kat, mint például a v1/responses, v1/messages és v1/chat/completions. Ezek az API-k kulcsfontosságúak az ügynökalapú AI-rendszerek számára, mivel tisztábban kezelik a gondolkodási folyamatokat és az eszközhívásokat. A platform strukturált tartalomblokkokat használ, ami lehetővé teszi a prompt-optimalizációkat és a különböző gyorsítótár- és ütemezési házirendek alkalmazását blokktípusonként — írja a NVIDIA Technical Blog.
Az új technológia hajtóereje
A NVIDIA belsőleg teszteli a Dynamo-t olyan modellekkel, mint a GLM-5 és MiniMax2.5, összehasonlítva a zárt forráskódú következtetési rendszerekkel. A cég szerint a Stripe ügynökei már heti 1300-nál is több PR-t generálnak, a Ramp pedig az egyesített PR-ek 30%-át tulajdonítja az ügynököknek, ami jól mutatja a technológia növekvő jelentőségét.
A technológia jövője
A Dynamo emellett naprakész eszközhívás- és érvelés-elemzési támogatást nyújt a különböző nyílt forráskódú modellekhez. Azok számára, akik nem támogatott modelleket használnak, egy tool-call-parser-generator skill is elérhető, amellyel új modelleket integrálhatnak a rendszerbe. A NVIDIA a közeljövőben további részleteket ígér a GLM-5 és MiniMax2.5 modellek telepítésével kapcsolatban, a Stripe és a Ramp pedig folyamatosan bővíti az ügynökök által generált kódok használatát.