Agentic Tool Loop: AI yang Menjalankan Tugas

Saat pelanggan meminta AI mencari, membandingkan, lalu memeriksa data, satu pencarian sering belum cukup. Agentic tool loop adalah alur berulang yang memberi AI fungsi terbatas untuk menjalankan langkah-langkah itu. Berbeda dari RAG satu putaran—pencarian dokumen sebelum menjawab—alur ini memakai hasil satu langkah untuk memilih langkah berikutnya. Biaya, waktu, dan izin tiap tindakan tetap perlu dibatasi.

Bayangkan pegawai toko yang mengambil barang dari gudang, memeriksa kondisinya, lalu mencocokkannya dengan pesanan sebelum menjawab pelanggan. Asisten AI dengan alur berulang bekerja dengan cara serupa: hasil pemeriksaan menentukan tindakan berikutnya.

Batasi alat yang dapat dipanggil model

Model hanya dapat memilih dari daftar alat (tool) yang telah ditetapkan. Setiap alat berupa fungsi dengan nama, petunjuk penggunaan, serta skema parameter yang menentukan bentuk dan tipe data masukan.

Asisten klasifikasi regulasi yang saya bangun memiliki enam alat: mencari kandidat kode, mengambil rincian satu kode, menjelajahi hierarki dan kode terkait, membandingkan dua hingga empat kode, menyusun daftar kode untuk bisnis dengan beberapa kegiatan, dan memeriksa kode yang sudah dimiliki pengguna. Alat menjalankan logika aplikasi yang tersedia. Pencarian dan pemeriksaan format mengikuti kode, sedangkan penyusunan serta audit juga dapat memakai penilaian relevansi oleh model. Pilihan alat yang terbatas tidak membuat seluruh hasilnya deterministik; keluaran penilaian tetap perlu diperiksa.

Pembatasan ini membantu menjaga jawaban agar bertumpu pada data yang dapat diperiksa. Tugas model adalah membaca percakapan, memilih operasi yang relevan, dan memberikan argumen yang valid. Setelah itu, aplikasi menjalankan kode yang Anda tulis dan dapat Anda audit.

Cara kerja alur berulang

Model menerima percakapan beserta daftar alat. Ia kemudian memberikan jawaban akhir atau meminta aplikasi menjalankan satu atau beberapa alat.

Jika model meminta sebuah alat, aplikasi menjalankannya dan menambahkan hasilnya ke percakapan sebagai pesan alat. Percakapan itu dikirim kembali ke model untuk putaran berikutnya. Proses berakhir ketika model menjawab tanpa meminta alat lagi, atau ketika batas putaran tercapai. Pada batas itu, aplikasi mengembalikan hasil yang didukung bukti atau menyatakan bahwa bukti belum cukup.

Batas putaran dan batas waktu mencegah satu pertanyaan menghabiskan sumber daya tanpa menghasilkan jawaban. Empat hingga lima putaran dapat menjadi batas awal untuk alur terbatas yang dibahas di sini; uji kecukupannya pada pertanyaan Anda sendiri. Jika hasilnya belum memadai, sistem perlu mengembalikan temuan yang dapat didukung atau mengakui kekurangan bukti. Jangan memaksa model menyimpulkan sesuatu dari data yang belum cukup.

Validasi dan pengamanan setiap alat

Perlakukan argumen dari model sebagai masukan yang harus divalidasi, sama seperti permintaan klien eksternal. Batasi panjang larik, tolak kode yang salah format, dan periksa rentang angka. Kegagalan satu alat tidak boleh menghentikan seluruh putaran. Tangani kegagalannya dan kembalikan pesan galat terstruktur agar model dapat memilih langkah berikutnya.

Dua pengamanan tambahan juga berguna. Pertama, hindari menjalankan panggilan yang sama berulang kali. Model kadang meminta pencarian yang identik pada putaran berbeda. Simpan hasilnya dalam tembolok untuk sisa giliran tersebut agar aplikasi tidak menghitungnya kembali.

Kedua, tetapkan alat yang dapat langsung mengakhiri proses. Jika keluaran terstrukturnya sudah menjadi jawaban, seperti laporan audit atau daftar yang telah disusun, aplikasi dapat mengembalikannya tanpa meminta model menulis ulang hasil itu.

Memilih kerangka kerja atau menulis alur sendiri

Kerangka kerja agen (agent framework) menyediakan skema alat, penanganan percobaan ulang, pengiriman keluaran bertahap, dan kadang pengaturan beberapa agen. Ketergantungan tambahan ini dapat membantu sistem dengan banyak alat dan alur kerja yang beragam.

Untuk kebutuhan terbatas, alur itu cukup ringkas untuk ditulis sendiri: panggil model, jalankan alat, tambahkan hasil, lalu ulangi hingga selesai atau mencapai batas. Anda dapat menentukan sendiri kapan sebuah panggilan dihitung sebagai satu putaran.

Anda juga dapat menentukan apa yang terjadi pada permintaan aktif ketika waktu habis, serta alat mana yang dapat mengakhiri proses lebih awal. Jika daftar alat sedikit dan tetap, alur buatan sendiri biasanya lebih mudah dipahami dan diuji. Pertimbangkan kerangka kerja ketika kemampuannya memang diperlukan.

Kapan alur berulang lebih sesuai daripada RAG satu putaran

Gunakan alur berulang ketika hasil satu langkah diperlukan untuk menentukan langkah berikutnya. Pertanyaan tentang kode KBLI untuk bisnis pengembangan perangkat lunak sekaligus penjualan perangkat keras memerlukan setidaknya dua pencarian dan aturan penggabungan. Pemeriksaan sepuluh kode terhadap kegiatan bisnis juga memerlukan pencarian, penilaian relevansi, serta perbandingan dengan kode yang seharusnya dimiliki.

Untuk pertanyaan yang dapat dijawab dari satu pencarian, RAG satu putaran tetap lebih sederhana, cepat, dan murah. Tidak perlu menambah putaran jika hasil awal sudah memadai.

Ketika hasil alat dikirim kembali ke model, pengamanan terhadap jawaban keliru yang terdengar meyakinkan semakin diperlukan. Perhatikan pula pemilihan model untuk mengendalikan biaya setiap putaran. Lima putaran berarti lebih banyak kesempatan munculnya jawaban keliru dan lebih banyak panggilan berbayar.

Apa yang perlu diminta dari pembuat sistem?

Minta daftar tindakan yang boleh dijalankan AI, siapa yang memberi izin, dan bukti bahwa sistem berhenti saat batas tercapai. Untuk tindakan yang mengubah data atau memindahkan uang, uji bahwa persetujuan dan hak akses ditegakkan oleh kode aplikasi. Pilihan fungsi yang ketat membantu membatasi model, tetapi tidak menjamin jawaban akhirnya benar.