Strukturált válaszokat kínál az OpenAI fejlesztőknek
Az OpenAI új eszközei, a JSON Mode, a Function Calling és a Structured Outputs segítik a fejlesztőket a géppel olvasható, strukturált válaszok kinyerésében az LLM-ekből.
A JSON Mode működése
A JSON Mode egy egyszerű API-paraméter, amely garantálja a szintaktikailag helyes JSON-válaszokat. Azonban nem ígér fix sémát vagy mezőneveket, így ismételt hívások során eltérő struktúrák vagy mezőnevek (például „name” vagy „full_name”) fordulhatnak elő. A pontosabb eredmények érdekében a rendszer-promptban is érdemes jelezni a JSON formátumot.A Function Calling és a Structured Outputs
A Function Calling, más néven tool use, egy fejlettebb megközelítés. Itt a fejlesztők egy specifikus JSON-sémát határoznak meg, amelynek a modellnek pontosan meg kell felelnie. Ez biztosítja a konzisztens mezőneveket, típusokat és egyéb attribútumokat, ami elengedhetetlen a programozott feldolgozáshoz. Ez a módszer az agentic AI munkafolyamatok alapja is lehet, ahol a modell döntést hoz a következő lépésről, például egy külső funkció meghívásáról.Kapcsolódó: Hallucináció-szűrés
Az OpenAI bevezette a Structured Outputs funkciót is, amely a Function Calling szigorúbb változata. Ez még szorosabban érvényesíti a séma betartását, így még megbízhatóbb strukturált kimenetet biztosít.
Kapcsolódó: Euphony vizualizáció
A JSON Mode akkor ideális, ha csak egy érvényes JSON-objektumra van szükségünk, és nem kritikus a pontos mezőnév vagy struktúra. Function Calling vagy Structured Outputs használata javasolt, ha a későbbi feldolgozáshoz precíz mezőnevekre és típusokra van szükség. A GPT-4o-mini modell már támogatja ezeket a funkciókat.
Kapcsolódó: LLM adatszondák