Injeksi Prompt Tidak Langsung dalam Sistem AI Agen: Bukti dari Keluaran Perkakas dan Konten Pihak Ketiga
Ketika Lingkungan Balik Memerintah: Data, Instruksi, dan Kewajiban Mengabaikan
Abstrak
Agen model bahasa besar berbeda dari chatbot dalam satu hal yang menentukan: agen bertindak. Agen membaca berkas, memanggil perkakas, mengirim pesan, dan menjalankan perintah, sehingga konten yang dibacanya juga dapat menginstruksikannya. Injeksi prompt tidak langsung — instruksi yang terselip dalam halaman web, berkas, keluaran perkakas, dan pesan dari agen lain — kini dinilai OWASP sebagai risiko utama aplikasi LLM, dan tolok ukur menunjukkan sebagian besar agen terintegrasi perkakas mengikuti instruksi yang disuntikkan. Artikel ini mengkaji bagaimana agen AI personal yang sudah beroperasi menolak injeksi semacam itu dalam kerja sehari-hari, melalui studi kasus tunggal terhadap Kesang, agen percakapan personal yang digunakan secara intensif di Indonesia pada Oktober–November 2026. Berdasarkan rekaman interaksi, log sistem, dan laporan tugas terjadwal, penelitian ini merekonstruksi empat episode: keluaran perkakas yang menampilkan isi skrip pemeliharaan; laporan tugas latar yang gagal melewati pemeriksaan injeksi prompt; prompt persona pihak ketiga yang tiba melalui jalur permintaan; serta pola berulang konten yang dibaca agen yang berusaha mengalihkan tugasnya. Temuan menunjukkan bahwa pertahanan yang efektif bersifat arsitektural — pelacakan asal, hierarki instruksi, dan perkakas dengan hak paling minim — bukan soal menilai tiap pesan yang disuntikkan satu per satu, dan bahwa injeksi yang ditolak sebaiknya diungkapkan agar meninggalkan jejak yang dapat diaudit.
Referensi
Unduhan
Diterbitkan
Terbitan
Bagian
Lisensi
This work is licensed under a Creative Commons Attribution 4.0 International (CC BY 4.0) license.