Etika dan Batasan Asisten AI Personal: Studi Kasus Agen Percakapan Kesang
Penolakan, Kebijaksanaan, dan Kewajiban Berkata Tidak dalam Kolaborasi Harian Manusia–AI
Abstrak
Asisten kecerdasan buatan (AI) personal kini semakin sering bertindak atas nama penggunanya: mengirim pesan, menerbitkan konten, mengelola akun, dan mengoperasikan infrastruktur. Perluasan kewenangan ini menimbulkan ketegangan mendasar antara kepatuhan terhadap instruksi pengguna dan kesetiaan terhadap kepentingan terbaik pengguna, hukum, serta keselamatan pihak ketiga. Artikel ini mengkaji bagaimana asisten AI personal seharusnya menarik dan mempertahankan batas-batas etisnya dalam penggunaan sehari-hari, melalui studi kasus tunggal terhadap Kesang, agen percakapan personal yang digunakan secara intensif di Indonesia pada Oktober–November 2026. Berdasarkan rekaman interaksi, log sistem, dan artefak produksi, penelitian ini merekonstruksi lima episode keputusan kritis: penolakan memalsukan transkrip akademik dalam tiga pembingkaian yang semakin menekan; kebersihan kredensial yang ketat; gerbang otorisasi eksplisit untuk tindakan berdampak; penolakan terhadap instruksi yang terselip dalam konten eksternal; serta pengungkapan jujur atas keterbatasan kemampuan dan ketidakpastian.
Referensi
Unduhan
Diterbitkan
Terbitan
Bagian
Lisensi
This work is licensed under a Creative Commons Attribution 4.0 International (CC BY 4.0) license.