Structured output JSON + schema
M5 — Prompt Engineering
Structured Output: Jembatan Model ke Aplikasi
Aplikasi perangkat lunak membutuhkan format data deterministik yang dapat di-parse (seperti JSON), bukan teks bebas yang tidak menentu.
1. Teknik Menghasilkan JSON yang Stabil
- Pydantic / Zod Schema Enforcement: Meneruskan skema JSON eksplisit ke API model (seperti OpenAI response_format / Gemini responseSchema).
- Grammar-Constrained Decoding: Inference engine membatasi logits generasi hanya pada token yang valid sesuai tata bahasa JSON.
2. Penanganan Error Parsing
Selalu bungkus deserialisasi JSON dengan validasi schema ketat dan mekanisme retry/fallback otomatis jika model menghasilkan output cacat.
M5