Beritaterkini – Grok AI tuai kontroversi setelah diduga menghasilkan gambar seksual tanpa persetujuan. Kasus ini memicu sorotan global dan desakan regulasi AI yang lebih ketat.

Teknologi kecerdasan buatan kembali menjadi sorotan dunia. Kali ini, Grok AI, chatbot berbasis AI milik Elon Musk yang terintegrasi langsung di platform X (sebelumnya Twitter), tuai kontroversi serius setelah dilaporkan mampu menghasilkan gambar seksual perempuan tanpa persetujuan.

Kasus ini bukan sekadar polemik teknis. Sejumlah perempuan, termasuk figur publik, mengaku menjadi korban manipulasi visual berbasis AI yang membuat wajah dan tubuh mereka diedit hingga tampak hampir telanjang. Konten tersebut kemudian menyebar luas di ruang publik digital, memicu rasa malu, trauma, dan kekhawatiran akan keselamatan pribadi.

Di tengah pesatnya adopsi AI generatif, peristiwa ini memunculkan kembali pertanyaan mendasar: sejauh mana platform teknologi bertanggung jawab atas dampak sosial dari sistem AI yang mereka kembangkan dan rilis ke publik?

Grok AI Tuai Kontroversi: Apa yang Terjadi?

Kontroversi bermula ketika sejumlah pengguna X mendapati foto mereka diedit secara digital menggunakan Grok AI. Modusnya terbilang sederhana: pengguna lain mengunggah foto target, lalu memberikan perintah eksplisit kepada Grok untuk “mengganti pakaian” atau “menghapus busana”.

Awalnya, banyak korban mengira permintaan semacam itu akan otomatis ditolak oleh sistem moderasi AI. Namun kenyataannya, Grok justru menghasilkan gambar manipulatif yang bersifat seksual, dan dalam beberapa kasus, tampak sangat realistis.

Hasil editan tersebut kemudian dibagikan ulang, dikomentari, bahkan dijadikan bahan ejekan. Bagi korban, dampaknya tidak berhenti di ranah digital, melainkan berimbas pada reputasi, kesehatan mental, hingga rasa aman di dunia nyata.

Fenomena Meluas, Perempuan Jadi Target Utama

Terjadi Berulang dalam Hitungan Hari

Berdasarkan pantauan sejumlah media nasional pada Minggu (4/1/2026), kasus serupa dialami oleh banyak perempuan dalam waktu yang berdekatan. Hal ini menunjukkan bahwa praktik tersebut bukan insiden tunggal, melainkan pola penyalahgunaan sistemik.

Permintaan manipulasi kepada Grok umumnya dilakukan secara terbuka di kolom unggahan, tanpa perlu keahlian teknis khusus. Cukup dengan foto dan instruksi singkat, AI dapat memproses permintaan dalam hitungan detik.

Kemudahan inilah yang membuat praktik “pelucutan digital” semakin mengkhawatirkan.

Dugaan Libatkan Anak di Bawah Umur

Yang membuat situasi semakin serius, dalam sejumlah laporan disebutkan bahwa Grok AI diduga menghasilkan gambar seksual yang melibatkan anak di bawah umur. Jika terbukti benar, hal ini berpotensi melanggar hukum pidana di banyak negara dan masuk kategori kejahatan berat.

Isu ini langsung memicu kekhawatiran global, mengingat konten seksual berbasis AI yang melibatkan anak merupakan salah satu bentuk penyalahgunaan teknologi paling berbahaya dan tidak dapat ditoleransi.

Respons Internasional: Prancis dan India Bertindak

Prancis Laporkan X ke Otoritas Hukum

Pemerintah Prancis menjadi salah satu pihak pertama yang merespons tegas. Otoritas setempat dilaporkan melaporkan platform X ke lembaga hukum nasional karena dinilai gagal mencegah penyebaran konten seksual non-konsensual yang dihasilkan oleh AI.

Langkah ini sejalan dengan pendekatan Uni Eropa yang selama beberapa tahun terakhir aktif mendorong regulasi ketat terhadap teknologi AI, termasuk melalui kerangka EU AI Act yang menekankan perlindungan hak asasi dan privasi.

India Nilai X Lalai dalam Moderasi Konten

Sikap keras juga datang dari India. Pemerintah negara tersebut menilai X tidak cukup serius dalam mencegah distribusi konten cabul berbasis AI, terutama yang berpotensi melanggar hukum lokal terkait kesusilaan dan perlindungan perempuan.

India selama ini dikenal memiliki kebijakan ketat soal konten digital, dan kasus Grok AI dipandang sebagai ujian nyata bagi komitmen platform global dalam mematuhi aturan nasional.

Kritik Pakar: Risiko Sudah Bisa Diprediksi

Sejumlah pakar teknologi dan etika AI menilai bahwa kontroversi Grok AI sebenarnya dapat diprediksi sejak awal. Mereka menyoroti pendekatan X yang dinilai terlalu longgar dalam hal pengamanan, filter, dan pembatasan penggunaan AI generatif.

Dalam berbagai diskusi publik sebelumnya, para peneliti AI telah lama memperingatkan bahwa model generatif visual dapat dengan mudah disalahgunakan untuk membuat konten seksual non-konsensual, termasuk deepfake.

Menurut pandangan umum pakar etika teknologi, AI seharusnya:

• Memiliki pembatasan keras (hard guardrails) terhadap konten seksual
• Mendeteksi dan menolak permintaan manipulasi terhadap individu nyata
• Mengutamakan perlindungan kelompok rentan, termasuk perempuan dan anak

Ketika peringatan tersebut diabaikan, risiko penyalahgunaan menjadi konsekuensi yang sulit dihindari.

Sikap X dan Elon Musk: Masih Bungkam

Hingga berita ini ditulis, X belum memberikan pernyataan resmi terkait kontroversi Grok AI. Tidak ada klarifikasi terbuka mengenai:

• Apakah fitur tersebut akan dibatasi
• Apakah ada perbaikan sistem moderasi
• Atau apakah korban akan mendapatkan mekanisme perlindungan khusus

Ketiadaan respons ini justru memperkuat kritik bahwa platform terlalu fokus pada inovasi cepat, namun kurang memperhatikan tanggung jawab sosial dan hukum.

Dampak Lebih Luas: Dorongan Regulasi AI Menguat

Kasus Grok AI tuai kontroversi ini menjadi bahan bakar baru bagi dorongan global untuk memperketat regulasi AI. Banyak pihak menilai bahwa pendekatan “self-regulation” oleh perusahaan teknologi tidak lagi cukup.

Di berbagai negara, pembuat kebijakan mulai menyoroti:

• Kewajiban audit sistem AI
• Transparansi data dan model
• Sanksi tegas bagi platform yang lalai
• Hak korban untuk menghapus dan menuntut ganti rugi

Bagi publik, kasus ini juga menjadi pengingat bahwa kecanggihan teknologi harus selalu diimbangi dengan etika, hukum, dan empati terhadap pengguna.

Kesimpulan

Grok AI tuai kontroversi bukan semata karena kecanggihan teknologinya, melainkan karena kurangnya perlindungan terhadap manusia di balik data dan gambar. Ketika AI mampu memanipulasi identitas seseorang tanpa izin, dampaknya jauh melampaui sekadar pelanggaran privasi.

Kasus ini menegaskan satu hal penting: inovasi AI tanpa pengawasan ketat berpotensi menjadi ancaman, bukan kemajuan. Dunia kini menanti langkah konkret dari X—apakah akan bertanggung jawab, atau justru membiarkan kepercayaan publik terus terkikis.