Jendela konteks (context window) adalah batas seberapa banyak teks yang bisa dipertimbangkan model AI dalam satu percakapan. Ukurannya dihitung dalam token, dan mencakup semuanya: instruksimu, dokumen yang kamu tempel, riwayat obrolan, sampai jawaban yang sedang dia tulis.
Analogi meja kerja
Bayangkan meja kerja dengan luas terbatas. Semua kertas yang sedang kamu pakai harus muat di atasnya. Kalau kamu terus menumpuk kertas baru, yang lama akan terdorong jatuh.
Itulah yang terjadi saat percakapan panjang. Model tidak “melupakan” karena bosan, tapi karena bagian awal sudah terdorong keluar dari mejanya.
Gejala yang sering kamu temui
- Di percakapan yang sudah panjang, AI mengulang hal yang sudah dibahas.
- Ia melupakan aturan yang kamu tetapkan di awal, misalnya “jangan pakai bahasa formal”.
- Ringkasan dokumen panjang terasa hanya menangkap bagian akhir.
Jendela besar bukan berarti selalu lebih baik
Ini yang sering disalahpahami. Muat bukan berarti diperhatikan. Ketika terlalu banyak bahan dijejalkan sekaligus, informasi penting bisa tenggelam di antara yang tidak relevan.
Selain itu, jendela yang penuh berarti token yang banyak, dan token yang banyak berarti biaya yang besar serta jawaban yang lebih lambat.
Cara mengakalinya
- Mulai percakapan baru ketika topiknya berganti.
- Kirim bagian dokumen yang relevan saja.
- Kalau percakapan sudah panjang, minta AI meringkas kesepakatan sejauh ini, lalu tempelkan ringkasan itu ke sesi baru.
- Ulangi instruksi penting di dekat akhir prompt, bukan cuma di awal.
Bacaan lanjutan
Lupakan Jendela Konteks membahas upaya menembus batasan ini.
Istilah terkait
Kembali ke Glosarium AI.