Memory: windowing, summary, compression

Mengelola Memori Percakapan Multi-Turn

Konteks percakapan yang terus bertambah akan menghabiskan batas context window dan menaikkan biaya token secara linear.

3 Arsitektur Manajemen Memori

1. Sliding Window: Hanya mempertahankan $N$ pesan terakhir; pesan lama dibuang deterministik.
2. Rolling Summarization: Secara berkala meminta LLM meringkas percakapan lama menjadi satu paragraf ringkasan yang disisipkan di awal prompt sistem.
3. Hierarchical Long-Term Memory: Menyimpan fakta profil dan catatan penting ke database terstruktur (SQLite) atau vektor, lalu menariknya kembali saat relevan (Semantic Memory Retrieval).