Token adalah potongan kecil teks yang dipakai AI sebagai satuan hitung. Bukan huruf, bukan persis kata, tapi di antaranya. Semua layanan AI menghitung pemakaian dan menagih biaya berdasarkan jumlah token, bukan jumlah kata.
Sebesar apa satu token?
Kata umum yang pendek biasanya jadi satu token utuh. Kata yang panjang atau jarang dipakai bisa dipecah jadi beberapa potongan. Tanda baca dan spasi juga ikut dihitung.
Ada satu hal yang jarang dibahas dan penting buat kita: bahasa Indonesia umumnya lebih boros token daripada bahasa Inggris. Model-model besar dilatih dengan porsi teks Inggris yang jauh lebih banyak, sehingga pemecah katanya lebih efisien di sana. Teks Indonesia dengan jumlah kata yang sama cenderung menghabiskan token lebih banyak.
Kenapa kamu perlu peduli
- Token itu biaya. Harga API selalu dipatok per juta token, dan biasanya dipisah antara token masuk (yang kamu kirim) dan token keluar (jawaban AI). Token keluar hampir selalu lebih mahal.
- Token itu batas. Kapasitas ingatan model dalam satu percakapan diukur dengan token, bukan kata. Lihat jendela konteks.
- Menempelkan dokumen panjang itu mahal. Satu PDF tebal bisa menghabiskan token lebih banyak daripada percakapan seharian.
Cara hemat token tanpa mengorbankan hasil
- Kirim bagian dokumen yang relevan saja, bukan seluruh berkas.
- Mulai percakapan baru kalau topiknya sudah berganti. Percakapan panjang mengirim ulang seluruh riwayat setiap kali.
- Minta jawaban ringkas kalau memang tidak butuh panjang. Kamu membayar tiap kata yang dia tulis.
Istilah terkait
LLM · Jendela konteks · Prompt
Kembali ke Glosarium AI.