Halusinasi AI adalah ketika AI menyampaikan informasi yang salah, tapi dengan nada seyakin informasi yang benar. Nama orang yang tidak ada, kutipan yang tidak pernah diucapkan, angka yang terdengar masuk akal padahal karangan.
Kenapa ini terjadi
Karena AI bahasa tidak mencari fakta, ia menyusun kata. Model bekerja dengan menebak rangkaian kata yang paling mungkin, bukan dengan membuka arsip lalu mengutipnya.
Jadi kalau kamu bertanya tentang sesuatu yang tidak ada di bahan latihannya, ia tetap menyusun jawaban. Bukan karena ingin membohongi, tapi karena menyusun kalimat memang satu-satunya hal yang bisa dia lakukan.
Ironisnya, halusinasi justru paling berbahaya ketika jawabannya terdengar paling rapi.
Kapan risikonya paling tinggi
- Pertanyaan yang sangat spesifik. Nomor pasal, tanggal peristiwa kecil, harga produk tertentu, statistik daerah.
- Peristiwa terbaru. Model punya batas waktu pengetahuan. Di luar itu, ia menebak.
- Kutipan dan sumber. Ini yang paling sering dikarang, termasuk judul buku, nama penelitian, dan tautan.
- Topik lokal yang jarang ditulis. Informasi Indonesia yang niche punya jejak digital lebih tipis.
Cara menguranginya
- Beri bahannya. Tempelkan dokumen sumber, lalu minta AI menjawab hanya berdasarkan dokumen itu. Pendekatan ini punya nama: RAG.
- Minta dia menyebut ketidaktahuannya. Tambahkan “kalau kamu tidak yakin, bilang tidak tahu” di prompt.
- Selalu periksa yang bisa dicek. Angka, tanggal, nama, dan tautan. Tautan yang dikarang biasanya langsung ketahuan begitu diklik.
- Pakai untuk merapikan, bukan untuk mengarang fakta.
Bacaan lanjutan
AI Ternyata Jago Akting dan Casebook Kegagalan AI.
Istilah terkait
LLM · RAG · Jendela konteks
Kembali ke Glosarium AI.