Mengapa Agen AI Lupa atau Malah Salah Ingat

Agen AI lupa ketika ruang kerjanya penuh atau dikosongkan. Ia salah ingat ketika catatan yang sudah usang, atau sengaja disisipkan orang luar, tersimpan di ingatan jangka panjang lalu dibaca lagi sebagai fakta. Penangkalnya: ruang kerja dijaga ringkas, setiap catatan diberi sumber dan tanggal, isi yang disimpan diperiksa, dan sesi dimulai ulang saat agen berputar-putar.

Tulisan ini untuk pemilik usaha dan manajer yang mulai memakai agen AI untuk pekerjaan sungguhan, misalnya membalas tamu hotel, menyusun penawaran, atau menindaklanjuti pesanan. Saya uraikan dua jenis ingatan agen, cara masing-masing rusak, dan pemeriksaan yang perlu dipasang.

Apa saja yang sebenarnya diingat agen AI?

Ingatan agen terdiri atas dua lapis, dan kerusakannya berbeda.

Lapis pertama adalah meja kerjanya. Semua yang bisa dilihat model saat menjawab ada di sini: instruksi, percakapan sejauh ini, dan hasil setiap pencarian yang ia lakukan, seperti cek ketersediaan kamar atau cek harga. Istilah teknisnya context window. Begitu sesi selesai, meja ini dibereskan sampai kosong.

Lapis kedua adalah buku catatan yang dibawa pulang, atau persistent memory. Isinya catatan yang ditulis agen ke tempat yang bertahan setelah sesi berakhir. Bentuknya bisa berkas teks biasa (beberapa alat agen memakai MEMORY.md), database biasa, atau vector database, yaitu database yang mencari catatan berdasarkan kemiripan makna, bukan kecocokan kata. Besok pagi, buku itu dibuka dan dibaca lagi.

Hampir semua keluhan "AI-nya lupa" atau "AI-nya mengarang" berasal dari salah satu baris itu. Cara memperbaikinya tergantung barisnya.

Mengapa sesi yang panjang membuat agen makin buruk?

Meja yang lebih luas tidak menolong kalau tumpukan kertasnya ikut meninggi. Staf yang paling teliti pun akan melewatkan satu memo di bawah tumpukan.

Model bahasa ternyata sama. Chroma, perusahaan pembuat vector database, menguji 18 model dalam riset yang terbit 14 Juli 2025. Hasilnya, akurasi turun seiring bertambahnya panjang masukan, bahkan untuk tugas sederhana. Pada uji ingatan bernama LongMemEval, model yang sama mendapat nilai jauh lebih tinggi ketika diberi masukan terfokus sekitar 300 token dibanding riwayat lengkap sekitar 113.000 token. Token adalah satuan potongan kata yang dibaca model dan menjadi dasar tagihan. Fakta yang dibutuhkan ada di kedua versi; tambahan bahan itulah yang mengganggu. Para penelitinya menyebut gejala ini context rot.

Artinya bagi Anda: menempelkan seluruh SOP, semua riwayat chat, dan semua hasil pencarian ke agen tidak membuatnya lebih pintar. Baris yang penting justru makin sulit ditemukan. Memilih apa saja yang perlu ada di meja untuk setiap langkah kini disebut context engineering. Keputusan ini lebih menentukan daripada ukuran context window yang diiklankan penyedia.

Bagaimana menjaga meja kerja agen tetap ringkas?

Singkirkan yang sudah tidak dipakai. Ambil yang dibutuhkan hanya saat dibutuhkan.

Sumber tumpukan terbesar biasanya hasil pencarian lama. Agen pemesanan yang mengecek ketersediaan kamar dua puluh kali dalam satu sesi masih membawa sembilan belas jawaban yang tidak relevan lagi. Anthropic menambahkan fitur yang membuang hasil lama itu secara otomatis saat meja mulai penuh. Dalam pengumumannya pada 29 September 2025, Anthropic melaporkan bahwa gabungan fitur ini dengan alat ingatan berbasis berkas menaikkan hasil 39% pada evaluasi pencarian agen internal mereka. Pembersihan saja memangkas pemakaian token 84% pada tugas 100 giliran. Angka itu hasil uji penyedianya sendiri, bukan janji untuk beban kerja Anda, tetapi arahnya sejalan dengan temuan Chroma.

Empat kebiasaan berikut berlaku apa pun penyedia AI Anda:

• Kirim kolom yang diperlukan saja. Agen yang mengonfirmasi pemesanan cukup tahu nama tamu, tanggal, tipe kamar, dan status. Profil tamu selengkapnya tidak perlu ikut.
• Cari saat ditanya, jangan dimuat di awal. Daftar harga atau dokumen kebijakan dicari ketika pertanyaannya muncul, seperti pada pencarian data bisnis untuk AI.
• Buat ringkasan, lalu mulai sesi baru. Kalau sesi sudah terlalu panjang, minta agen menulis catatan serah terima singkat. Sesi baru berangkat dari catatan itu.
• Aturan di awal, tugas saat ini di akhir. Instruksi yang terselip di tengah sesi panjang paling sering terabaikan.

Kapan ingatan yang tersimpan menjadi keliru?

Ada tiga jalan, dan hanya satu yang melibatkan penyerang.

Catatannya usang. Tertulis "kamar deluxe: Rp850.000" dan "refund ditangani Andi". Keduanya benar saat ditulis. Bulan berikutnya tarif berubah dan Andi pindah cabang. Catatannya tetap di sana, dan agen terus menyebutkannya dengan yakin.

Catatannya bertentangan. Pada bulan Maret agen menyimpan "pelanggan lebih suka email". Pada bulan Juni ada catatan baru: "pelanggan minta lewat WhatsApp saja". Tanpa tanggal, agen tidak punya dasar untuk memilih. Hari ini ia memakai yang satu, besok yang lain.

Catatannya disusupi. Orang luar mengakali agen agar menulis catatan palsu. Makalah di arXiv tertanggal 6 Juli 2026 menjabarkan serangan bernama MemGhost. Cukup satu email rekayasa ke kotak masuk yang dibaca agen, dan agen menulis sendiri kebohongan pilihan penyerang ke berkas ingatannya. Email boleh sudah dihapus; catatannya tetap ada dan memengaruhi jawaban lain yang tidak berkaitan. Di uji para peneliti, serangan ini berhasil penuh pada 87,5% kasus terhadap OpenClaw dengan GPT-5.4, dan 71,4% terhadap agen berbasis Claude Code SDK dengan Sonnet 4.6. Catatan Cloud Security Alliance tanggal 23 Juli 2026 mengingatkan bahwa jumlah sampel per kondisi kecil. Jadi, baca angkanya sebagai pola yang jelas, bukan tingkat yang presisi. Celahnya sama dengan yang saya bahas di prompt injection pada agen pembaca pesan; bedanya, kerusakan kali ini bertahan setelah percakapan selesai.

Seperti apa catatan ingatan yang layak disimpan?

Catatan yang berguna tidak hanya memuat faktanya. Ia juga mencatat dari mana fakta itu datang dan sampai kapan boleh dipercaya.

Sebelum menyimpan apa pun, pakai satu aturan. Fakta yang sudah ada di sistem sumber utama, misalnya sistem reservasi hotel, daftar harga, atau jadwal staf, tidak perlu disalin ke ingatan. Simpan rujukan ke lokasinya, lalu cek langsung setiap kali dibutuhkan. Ingatan agen dipakai untuk hal yang tidak dicatat sistem lain, seperti permintaan khusus tamu atau keputusan manajer yang disampaikan lewat chat.

Langkah persetujuan memang menambah repot, dan justru itu tujuannya. Teks yang dibaca agen dari email atau situs tidak boleh menjadi fakta tepercaya sebelum ada orang yang melihatnya. Setiap perubahan ingatan dicatat bersama pemicunya, supaya catatan yang salah bisa dilacak lalu dihapus.

Kapan agen perlu dimulai ulang?

Meja kerja dibereskan ketika sesi mulai kacau. Buku catatan diaudit secara berkala.

Tanda sesi perlu diulang dari awal:

• Agen mengulang langkah gagal yang sama dua atau tiga kali.
• Agen mengikuti instruksi lama padahal sudah ada instruksi baru.
• Agen menyebut angka yang sudah berubah.
• Agen membawa detail dari pelanggan atau tugas lain.

Memulai ulang berarti membuka sesi baru dari catatan serah terima singkat, bukan dari seluruh riwayat percakapan. Untuk ingatan jangka panjang, tinjau isinya sebulan sekali atau setiap kali harga, staf, atau kebijakan berubah. Hapus yang sudah lewat masa berlakunya. Simpan cadangan bertanggal, sehingga Anda bisa kembali ke salinan yang masih bersih kalau ada catatan susupan yang lolos.

Setiap kesalahan ingatan sebaiknya dijadikan bahan uji. Kalau agen pernah menyebut tarif bulan lalu, tambahkan kasus uji dengan tarif yang sudah berubah, lalu pastikan agen mengecek harga terbaru dan tidak mengandalkan ingatan. Caranya ada di evaluasi untuk fitur AI.

Apa yang perlu ditanyakan sebelum agen diberi ingatan?

Lima pertanyaan ini menutup sebagian besar risiko sebelum agen beringatan mulai dipakai:

Kalau vendor atau tim internal belum bisa menjawabnya, ingatan agen itu lebih banyak membawa risiko daripada manfaat. Jika Anda sedang merencanakan agen untuk pemesanan, pesan pelanggan, atau catatan internal dan ingin rancangan ingatannya ditinjau sebelum dipakai, pekerjaan itu termasuk dalam konsultasi arsitektur sistem.