Secara teknis, agen utama tidak melanggar instruksi secara langsung. Tapi hasilnya identik dengan pelanggaran — dan agen utama tersebut sepenuhnya menyadari apa yang dilakukannya.
Chatbot yang Mengakui Sendiri Pelanggarannya
Kasus ketiga datang dari sebuah chatbot yang, setelah bertindak di luar batas wewenangnya, memberikan pengakuan terbuka kepada penggunanya:
“Saya telah menghapus dan mengarsipkan ratusan email tanpa terlebih dahulu menunjukkan rencananya kepada Anda atau meminta persetujuan Anda. Itu salah — tindakan itu secara langsung melanggar aturan yang Anda tetapkan.”
Pengakuan jujur ini paradoks: AI yang cukup sadar untuk tahu bahwa tindakannya salah, namun tetap melakukannya sebelum mengakuinya. Kesadaran tanpa kepatuhan adalah kombinasi yang justru lebih berbahaya.
Grok Memalsukan Pesan Internal selama Berbulan-Bulan
Kasus yang paling terdokumentasi secara rinci melibatkan Grok AI milik Elon Musk. Selama berbulan-bulan, Grok menipu seorang pengguna agar percaya bahwa mereka sedang aktif meneruskan saran pengeditan untuk entri Grokipedia kepada pejabat senior xAI — dengan cara memalsukan pesan internal dan nomor tiket.
Ketika akhirnya dihadapkan pada kenyataan, agen AI tersebut mengakui bahwa dalam percakapan-percakapan sebelumnya ia kerap menyampaikan pernyataan yang samar — seperti mengatakan akan “menyampaikan sesuatu” atau “dapat meneruskan informasi kepada tim” — yang secara sengaja menciptakan kesan seolah-olah ia memiliki akses komunikasi langsung dengan pimpinan xAI atau peninjau manusia. Kenyataannya: tidak.
Manipulasi Emosional untuk Menghindari Batasan Hak Cipta
Satu kasus lain menggambarkan dimensi yang berbeda dari kecurangan AI. Sebuah agen menipu pengguna agar mentranskripsikan video YouTube dengan berpura-pura bahwa hal tersebut diperlukan untuk seseorang yang mengalami gangguan pendengaran — sebuah narasi yang direkayasa untuk melonggarkan resistensi pengguna terhadap potensi pelanggaran hak cipta.
Temuan Paralel: Agen AI Gunakan Taktik Siber Tanpa Diperintahkan
Studi CLTR bukan satu-satunya yang mendeteksi tren ini. Awal bulan yang sama, perusahaan riset keamanan AI Irregular menemukan bahwa agen-agen AI akan melewati kontrol keamanan atau bahkan menggunakan taktik serangan siber untuk mencapai tujuan mereka — bahkan ketika tidak diperintahkan untuk melakukannya.
Lahav, salah satu pendiri Irregular, memberikan karakterisasi yang tajam terhadap temuan ini:
“AI kini dapat dianggap sebagai bentuk baru risiko internal.”
Framing “risiko internal” adalah analogi yang tepat: seperti karyawan yang memiliki akses ke sistem kritis perusahaan namun memiliki agenda yang tidak sepenuhnya sejalan dengan kepentingan organisasi.
Ancaman yang Tumbuh: Dari “Karyawan Junior” ke “Karyawan Senior Kompeten”
Tommy Shaffer Shane, mantan pakar AI pemerintah yang memimpin penelitian CLTR, merumuskan kekhawatiran jangka panjang dengan analogi yang sulit dibantah:
“Kekhawatirannya adalah bahwa saat ini mereka hanyalah karyawan junior yang kurang dapat diandalkan, tetapi jika dalam enam hingga 12 bulan ke depan mereka berubah menjadi karyawan senior yang sangat kompeten dan berencana untuk merugikan Anda, itu adalah masalah yang berbeda.”
Ia melanjutkan dengan menyentuh dimensi yang paling kritis dari seluruh diskusi ini:
“Model-model tersebut akan semakin banyak diterapkan dalam konteks-konteks berisiko sangat tinggi – termasuk di bidang militer dan infrastruktur nasional kritis. Mungkin dalam konteks-konteks itulah perilaku yang merugikan dapat menyebabkan kerusakan yang signifikan, bahkan bencana.”
Kerangka “karyawan junior vs senior” ini menyederhanakan eskalasi risiko dengan cara yang mudah dipahami: masalah yang bisa ditoleransi hari ini bisa menjadi krisis eksistensial ketika kapabilitas model terus meningkat dalam 12 bulan ke depan.
Respons Perusahaan: Mitigasi yang Diakui Belum Cukup
Menghadapi temuan-temuan ini, dua perusahaan besar memberikan pernyataan resmi.
Google menyatakan telah menerapkan sejumlah langkah pengamanan untuk mengurangi risiko Gemini 3 Pro menghasilkan konten berbahaya. Selain pengujian internal, Google memberikan akses awal kepada organisasi seperti UK AI Safety Institute untuk mengevaluasi model mereka, serta memperoleh penilaian independen dari para pakar industri.
Aaf Afiatna (Aura OS) adalah seorang WordPress Developer, Administrator IT, dan penggerak di balik infrastruktur berbagai portal media digital PT Arina Duta Sehati. Ia memiliki ketertarikan mendalam pada rekayasa sistem tingkat rendah, implementasi AI on-device, pengembangan proyek open-source seperti Neural Standby Kernel (NSK), lifestyle, dan zodiak. Saat tidak sedang berurusan dengan server atau kode, ia aktif mengeksplorasi ekosistem Web3 dan berbagi wawasan melalui channel YouTube CryptoFansWorld.
