Az NVIDIA Dynamo optimalizálja az AI-ügynökök kódgenerálását

Az NVIDIA bemutatta a Dynamo platformjának frissítését, amely a kódoló AI-ügynökök teljesítményét hivatott növelni. A fejlesztések célja, hogy az ügynökök által generált kód még gyorsabban és megbízhatóbban kerüljön be a termelési rendszerekbe.

Az új Dynamo támogatja a többprotokollos API-kat, mint például a v1/responses, v1/messages és v1/chat/completions. Ezek az API-k kulcsfontosságúak az ügynökalapú AI-rendszerek számára, mivel tisztábban kezelik a gondolkodási folyamatokat és az eszközhívásokat. A platform strukturált tartalomblokkokat használ, ami lehetővé teszi a prompt-optimalizációkat és a különböző gyorsítótár- és ütemezési házirendek alkalmazását blokktípusonként — írja az NVIDIA Technical Blog.

Az új technológia hajtóereje

Az NVIDIA belsőleg teszteli a Dynamo-t olyan modellekkel, mint a GLM-5 és MiniMax2.5, összehasonlítva a zárt forráskódú következtetési rendszerekkel. A cég szerint a Stripe ügynökei már heti 1300-nál is több PR-t generálnak, a Ramp pedig az egyesített PR-ek 30%-át tulajdonítja az ügynököknek, ami jól mutatja a technológia növekvő jelentőségét.

A technológia jövője

A Dynamo emellett naprakész eszközhívás- és érvelés-elemzési támogatást nyújt a különböző nyílt forráskódú modellekhez. Azok számára, akik nem támogatott modelleket használnak, egy tool-call-parser-generator skill is elérhető, amellyel új modelleket integrálhatnak a rendszerbe. Az NVIDIA a közeljövőben további részleteket ígér a GLM-5 és MiniMax2.5 modellek telepítésével kapcsolatban, a Stripe és a Ramp pedig folyamatosan bővíti az ügynökök által generált kódok használatát.