Új CDC rendszerrel generál hibátlan kódot a diszkrét diffúzió – képzési fázis nélkül

A diszkrét diffúziós modellek egyre nagyobb teret nyernek a kódgenerálás területén, mivel a részlegesen sérült token-sorozatok iteratív finomításával képesek programokat létrehozni, párhuzamos token-finomítást is lehetővé téve. Ez a módszer minden denoise-lépésnél globális programállapotot tár fel, amely természetes beavatkozási pontot biztosít a programszintű funkcionalitás és biztonsági korlátok érvényesítésére — írja az arXiv-on megjelent tanulmány.

Erre az alapvető megfigyelésre építve mutatták be a Constrained Diffusion for Code (CDC) rendszert. Ez egy képzési fázis nélküli neuroszimbolikus következtetési keretrendszer, amely közvetlenül a fordított denoise-folyamatba integrálja a megszorítások kielégítését. A CDC a matematikai optimalizációt programanalízissel ötvözve azonosítja a köztes programállapot korlátozásokkal kapcsolatos régióit, és lokálisan módosítja a denoise-folyamatot.

A kódgenerálás új dimenziója

A CDC a megszorítás-tudatos denoise-operátorokkal egészíti ki az alap diszkrét diffúziós mintavételezőt. Ezek az operátorok kulcsfontosságúak abban, hogy a generálás már a korai fázisokban is a kívánt funkcionalitás és biztonsági előírások szerint történjen, megelőzve a hibás vagy nem biztonságos kód létrejöttét. A módszerrel a kódgenerálás nem csak hatékonyabb, de megbízhatóbb is lehet.

A RADAR modell által inspirált áttörés

A diszkrét diffúziós modellek, mint a RADAR, már bizonyítottak a többügynökös kommunikációs struktúrák generálásában, ahol magasabb pontosságot és alacsonyabb token-felhasználást értek el. A CDC most ezt a képességet emeli új szintre azzal, hogy a kódgenerálásba is bevezeti a szigorúbb, valós idejű megszorításokat, ami 2024-ben jelentős előrelépést jelenthet a szoftverfejlesztés automatizálásában az IBM szoftverfejlesztői csapata szerint.