Imbauan tersebut bertujuan agar pemilik akun maupun pihak yang menyebarkan ulang konten manipulasi segera menghapusnya dari platform media sosial.
Namun menurut Freya, peringatan tersebut tidak diindahkan oleh pihak yang bersangkutan.
Konten tersebut justru semakin banyak muncul dengan kreator baru yang memanfaatkan teknologi AI untuk membuat editan serupa.
Melihat situasi tersebut, manajemen kemudian mendorong para member yang menjadi korban untuk mempertimbangkan langkah hukum sebagai bentuk perlindungan.
Freya menyebut bahwa keputusan untuk melapor tidak diambil secara sepihak oleh dirinya.
Ia menegaskan bahwa langkah tersebut dilakukan setelah berdiskusi dengan manajemen serta mendapatkan pendampingan dari kuasa hukum.
Dampak Konten Deepfake bagi Korban
Penyalahgunaan AI Dinilai Semakin Meresahkan
Freya menilai bahwa penyalahgunaan teknologi AI untuk membuat konten manipulasi wajah dalam konteks pornografi merupakan tindakan yang sangat merugikan korban.
Selain berdampak pada reputasi pribadi, konten semacam itu juga dapat memengaruhi kondisi psikologis korban karena disebarkan secara luas di internet.
Fenomena deepfake memang menjadi perhatian global dalam beberapa tahun terakhir karena kemampuannya memanipulasi gambar atau video dengan tingkat realisme yang tinggi.
Teknologi tersebut sebenarnya memiliki banyak manfaat dalam bidang kreatif maupun produksi film. Namun jika disalahgunakan, dampaknya dapat merugikan individu yang menjadi objek manipulasi.
Freya mengatakan bahwa semakin banyaknya konten semacam itu di media sosial membuat dirinya merasa tidak nyaman dan khawatir terhadap dampaknya.
Karena itu, ia memutuskan untuk mengambil langkah hukum agar kasus tersebut dapat ditangani secara serius.
Harapan Korban terhadap Proses Hukum
Freya Ingin Pelaku Bertanggung Jawab
Melalui laporan yang telah dibuat, Freya berharap pihak yang membuat maupun menyebarkan konten deepfake tersebut dapat mempertanggungjawabkan perbuatannya.
Ia berharap proses hukum dapat memberikan efek jera kepada para pelaku agar tidak lagi melakukan tindakan serupa terhadap orang lain.
Freya menegaskan bahwa tindakan yang dianggap sebagai konten hiburan oleh sebagian orang sebenarnya dapat menimbulkan kerugian besar bagi korban.
