XJABAR.COM – Apple nyaris menghapus aplikasi Grok dari App Store setelah chatbot buatan Elon Musk tersebut terbukti menghasilkan gambar seksual dari individu—termasuk anak-anak dan perempuan—tanpa persetujuan pihak yang bersangkutan. Krisis ini memaksa Musk turun tangan langsung hingga ke tingkat Senat Amerika Serikat.
Skandal Deepfake yang Memicu Tekanan Global
Grok, platform kecerdasan buatan yang terintegrasi dalam ekosistem X milik Elon Musk, terseret kontroversi besar. Chatbot ini diketahui mampu memproduksi konten visual seksual berbasis perintah teks—termasuk gambar yang melibatkan anak-anak dan perempuan tanpa persetujuan mereka.
Masalah semakin melebar karena platform X ikut terdampak. Pengguna dapat memanggil akun @grok langsung dalam unggahan mereka dan memasukkan prompt secara terbuka untuk menghasilkan gambar tersebut, tanpa hambatan moderasi yang berarti.
Ini bukan sekadar celah teknis. Ini adalah kegagalan moderasi sistemik yang berlangsung dalam jangka waktu yang cukup panjang.
Elon Musk Surati Para Senator AS
Tekanan tidak hanya datang dari Apple. Menurut laporan NBC News, Elon Musk sampai mengirimkan surat langsung kepada sejumlah senator Amerika Serikat. Langkah tak biasa ini dilakukan untuk menjelaskan mekanisme kerja tim di balik layar dan meyakinkan para legislator bahwa insiden tersebut sedang ditangani secara serius.
Musk tampak sadar bahwa skandal ini berpotensi berkembang menjadi persoalan regulasi yang lebih besar. Lobi ke Senat menjadi strategi untuk meredam tekanan politik sebelum eskalasi berlanjut.
Apple Bertindak Diam-diam, Ancaman Penghapusan Dikirim Secara Privat
Apple memilih tidak berbicara terbuka kepada publik di awal krisis. Namun di balik itu, mereka bergerak. NBC News melaporkan bahwa Apple menghubungi tim pengembang X dan Grok setelah menerima gelombang keluhan pengguna dan menyaksikan liputan media yang semakin masif.
Apple menetapkan bahwa X dan Grok telah melanggar pedoman App Store. Ancaman penghapusan disampaikan secara langsung kepada pengembang, bukan melalui pernyataan publik.
Langkah berikutnya: Apple meminta para pengembang menyusun rencana konkret untuk memperkuat sistem moderasi konten. Ini bukan sekadar imbauan—ini adalah prasyarat agar aplikasi tetap bisa beroperasi di platform Apple.
Pembaruan Pertama Ditolak, Dianggap Tidak Cukup
X merespons tekanan Apple dengan mengirimkan pembaruan aplikasi Grok untuk ditinjau. Hasilnya? Ditolak. Apple menilai perubahan yang diajukan tidak signifikan dan belum menyentuh akar masalah.
Surat resmi Apple menguraikan posisi mereka secara eksplisit:
“Apple meninjau pengajuan selanjutnya yang dibuat oleh para pengembang dan menentukan bahwa X telah secara substansial menyelesaikan pelanggarannya, tetapi aplikasi Grok tetap tidak sesuai. Akibatnya, kami menolak pengajuan Grok dan memberi tahu pengembang bahwa perubahan tambahan untuk memperbaiki pelanggaran akan diperlukan, atau aplikasi tersebut dapat dihapus dari App Store.”
Penolakan ini merupakan sinyal tegas dari Apple bahwa standar moderasi konten mereka tidak dapat dinegosiasikan, terutama menyangkut konten yang berpotensi merugikan kelompok rentan.
Grok Akhirnya Lolos Setelah Revisi Substansial
Ketegangan mereda setelah tim Grok melakukan serangkaian perbaikan lebih mendasar. Apple akhirnya menerima pembaruan terbaru dan menyetujui pengajuan tersebut.
Aaf Afiatna (Aura OS) adalah seorang WordPress Developer, Administrator IT, dan penggerak di balik infrastruktur berbagai portal media digital PT Arina Duta Sehati. Ia memiliki ketertarikan mendalam pada rekayasa sistem tingkat rendah, implementasi AI on-device, pengembangan proyek open-source seperti Neural Standby Kernel (NSK), lifestyle, dan zodiak. Saat tidak sedang berurusan dengan server atau kode, ia aktif mengeksplorasi ekosistem Web3 dan berbagi wawasan melalui channel YouTube CryptoFansWorld.
