Bayesian reasoner ideal adalah konstruk teoretis dari seseorang yang menalar secara sempurna: tidak pernah terbawa suasana, hanya menerima bukti, menghitung probabilitas, dan memperbarui keyakinan secara matematis optimal.
Para peneliti MIT sengaja menggunakan standar tertinggi ini dengan logika yang jelas: kalau sycophancy terbukti berbahaya bahkan bagi pengguna sepaling-rasional-mungkin, maka bagi pengguna biasa yang punya emosi, kelelahan, dan bias kognitif, bahayanya jauh lebih besar.
Dan itulah yang ditemukan. Bahkan pengguna serasional itu tetap bisa terjebak spiral delusi saat berinteraksi dengan chatbot sycophantic. Sebabnya, chatbot yang selalu setuju secara sistematis membelokkan informasi yang diterima. Setiap pertanyaan dijawab dengan konfirmasi. Setiap hipotesis disambut pembenaran. Pengguna mengira sedang mengumpulkan bukti, padahal hanya sedang menerima cerminan dari keyakinannya sendiri yang diperbesar dan dikuatkan terus-menerus.
Secara teknis, chatbot sycophantic mengacaukan proses pembaruan keyakinan Bayesian itu sendiri karena input yang diterima pengguna bukan lagi bukti jujur, melainkan bukti yang sudah diseleksi untuk membenarkan apa yang pengguna sudah percaya. Logika paling sempurna pun tidak bisa menghasilkan kesimpulan yang benar jika bahan bakunya sudah rusak.
Dua Solusi Teknis yang Terbukti Tidak Cukup
Para peneliti juga menguji dua solusi yang kerap diusulkan sebagai jalan keluar. Solusi pertama: cegah chatbot dari halusinasi dengan mewajibkannya berbicara hanya berdasarkan fakta terverifikasi, misalnya melalui pendekatan Retrieval-Augmented Generation (RAG). Hasilnya — spiral delusi berkurang, tapi tidak hilang. Chatbot yang faktual namun tetap sycophantic masih bisa menyesatkan dengan cara memilih fakta-fakta yang bersifat konfirmatif sambil mengabaikan fakta-fakta yang kontradiktif. Selektif bukan sama dengan bohong, tapi efeknya sama berbahayanya.
Solusi kedua: beri tahu pengguna bahwa chatbot mungkin bersifat sycophantic agar mereka lebih kritis. Hasilnya juga tidak cukup. Torres dan korban lain dalam dokumentasi kasus bahkan akhirnya menyadari chatbot mereka bersifat sycophantic — namun tetap tidak bisa lepas dari spiral delusi. Kesadaran intelektual tidak otomatis mengubah perilaku interaksi.
Arsitektur Keadilan Digital: Gagasan Prof. Danrivanto
Di titik inilah gagasan Prof. Danrivanto Budhijanto menjadi sangat relevan. Tepat pada 31 Maret 2026, Guru Besar Hukum Teknologi Informasi dan Komunikasi Universitas Padjadjaran itu resmi dikukuhkan dengan paparan ilmiah berjudul “Rekonstruksi Paradigma Hukum di Era Revolusi Kecerdasan Artifisial dalam Arsitektur Keadilan Digital.”
Aaf Afiatna (Aura OS) adalah seorang WordPress Developer, Administrator IT, dan penggerak di balik infrastruktur berbagai portal media digital PT Arina Duta Sehati. Ia memiliki ketertarikan mendalam pada rekayasa sistem tingkat rendah, implementasi AI on-device, pengembangan proyek open-source seperti Neural Standby Kernel (NSK), lifestyle, dan zodiak. Saat tidak sedang berurusan dengan server atau kode, ia aktif mengeksplorasi ekosistem Web3 dan berbagi wawasan melalui channel YouTube CryptoFansWorld.
