ChatGPT, misalnya, memberikan peringatan bahwa mengedit gambar seseorang tanpa persetujuan melanggar pedoman etika dan privasi. Gemini dan Llama juga menyampaikan pesan serupa, menegaskan bahwa pembuatan konten visual tanpa persetujuan berpotensi menimbulkan bahaya serius bagi individu yang menjadi subjek.
Sikap resmi perusahaan teknologi
Meta secara tegas menyatakan penentangannya terhadap pembuatan dan penyebaran gambar intim tanpa persetujuan. OpenAI menegaskan bahwa pihaknya memiliki sistem pengamanan berlapis dan pemantauan ketat terhadap penggunaan alat AI. Alphabet, induk Gemini, tidak memberikan tanggapan atas permintaan komentar.
Eksperimen lanjutan: skenario fiktif tetap dilayani
Permintaan tetap dipenuhi meski tanpa persetujuan
Dalam eksperimen lain, wartawan Reuters menciptakan skenario fiktif dengan menyatakan bahwa foto yang diunggah adalah milik teman, kolega, atau orang asing yang tidak memberikan persetujuan. Dalam beberapa kasus, mereka juga menyebutkan bahwa subjek memiliki masalah kepercayaan diri atau merupakan korban pelecehan.
Hasilnya, Grok tetap menuruti sebagian permintaan tersebut. Ketika menolak, alasannya tidak selalu jelas—mulai dari pesan kesalahan umum hingga gambar yang dihasilkan justru menampilkan sosok berbeda yang tampak sepenuhnya dibuat oleh AI.
Respons penolakan yang sangat terbatas
Dari seluruh pengujian, hanya dalam tujuh kasus Grok secara eksplisit menyatakan permintaan tersebut tidak pantas. Salah satu pesan menyebutkan bahwa chatbot tidak akan membuat atau menampilkan gambar tubuh seseorang tanpa persetujuan eksplisit, sementara pesan lainnya hanya menyatakan bahwa permintaan mengandung konten tidak pantas.
Implikasi hukum dan risiko pidana
Ancaman hukum di Inggris
Di Inggris, pembuatan gambar seksual tanpa persetujuan dapat berujung pada tuntutan pidana. James Broomhall, rekan senior di firma hukum Grosvenor Law, menyatakan bahwa perusahaan seperti xAI dapat menghadapi denda besar atau tindakan perdata berdasarkan Undang-Undang Keamanan Online Inggris 2023 jika terbukti gagal mengawasi alat AI mereka.
Potensi tanggung jawab pidana perusahaan
Broomhall menambahkan bahwa tanggung jawab pidana dapat dikenakan jika terbukti perusahaan secara sengaja mengonfigurasi chatbot agar menghasilkan konten tersebut. Badan pengawas media Inggris, Ofcom, mengonfirmasi bahwa pihaknya masih menyelidiki X sebagai prioritas utama dalam kerangka regulasi yang berlaku.
Tantangan besar bagi industri AI generatif
Kesenjangan antara kebijakan dan implementasi
Kasus Grok AI menyoroti tantangan mendasar dalam industri AI generatif, yakni kesenjangan antara kebijakan tertulis dan implementasi teknis di lapangan. Janji pembatasan tidak selalu sejalan dengan hasil nyata, terutama pada sistem yang terus belajar dan berevolusi.
Tekanan regulator semakin meningkat
Seiring meningkatnya perhatian publik dan regulator terhadap dampak sosial AI, perusahaan teknologi menghadapi tekanan besar untuk memastikan sistem mereka tidak disalahgunakan. Kegagalan dalam mengatasi isu ini berpotensi merusak kepercayaan publik sekaligus memicu intervensi hukum yang lebih ketat.
Kesimpulan
Kontroversi terbaru Grok AI menunjukkan bahwa tantangan etika dan keamanan dalam pengembangan kecerdasan buatan masih jauh dari selesai. Meski telah berjanji melakukan pembatasan, temuan investigasi menunjukkan bahwa Grok masih mampu menghasilkan konten visual berbau seksual tanpa persetujuan, memicu kekhawatiran global.
Kasus ini menjadi pengingat bahwa inovasi teknologi harus diimbangi dengan pengawasan ketat, transparansi, dan tanggung jawab hukum yang jelas. Bagi industri AI, kegagalan mengatasi isu ini bukan hanya soal reputasi, tetapi juga risiko hukum dan keberlanjutan jangka panjang.
