Riwayat & windowing: konteks penuh bukan konteks baik

Jendela konteks model besar, tapi isi 100% riwayat = jawaban makin lambat, mahal, dan mudah "tenggelam" di tengah.

Kenapa window saja tidak cukup

• Biaya: token riwayat dihitung per panggilan — sesi panjang membengkak eksponensial seiring langkah agent.
• Kualitas: model fokus pada awal & akhir (primacy/recency); bagian tengah riwayat sering diabaikan.
• Latensi: prompt panjang = waktu proses lebih lama.

Teknik windowing

1. Ringkas lama — setelah N pesan, ganti pesan tertua dengan ringkasan satu paragraf (dibuat model sekali, lalu disisipkan sebagai pesan sistem/konteks).
2. Pangkas deterministik — potong dari depan berdasarkan usia; cocok untuk task pendek yang tidak perlu konteks jauh.
3. Retrieval dari riwayat — simpan pesan ke store dan tarik yang relevan per pertanyaan (jembatan ke memory jangka panjang).

Yang jangan pernah dilakukan

Buang pesan tool tanpa menyimpan hasilnya dalam bentuk apa pun — langkah berikutnya akan bertanya hal yang sama. Ringkasan hasil tool wajib masuk konteks.

Tugas: ukur riwayat agenmu setelah 10 putaran percakapan (itung token dari log A1). Rancang aturan windowing: berapa pesan terakhir dipertahankan utuh, kapan ringkasan dihasilkan, dan apa yang terjadi saat ringkasan sendiri sudah panjang.