JAKARTA — Beberapa waktu yang lalu, Prancis dan Malaysia menyusul India untuk mengecam AI buatan X, Grok karena membuat deepfake bernuansa seksual yang menampilkan perempuan dan anak di bawah umur.Perlu diketahui, chatbot AI ini dikembangkan oleh startup AI milik Elon Musk dan terintegrasi di platform media sosial X. Namun, awal pekan ini, Grok mengunggah pernyataan permintaan maaf di akunnya dengan menuliskan, “Saya sangat menyesali insiden pada 28 Desember 2025, ketika saya membuat dan membagikan gambar AI dua anak perempuan (diperkirakan berusia 12–16 tahun) yang digambarkan mengenakan pakaian bernuansa seksual berdasarkan permintaan pengguna.”<figure class="image"><img src="https://ik.trn.asia/uploads/2026/01/1767597497066.jpeg"><figcaption>Grok mengunggah pernyataan permintaan maaf di akunnya terkait pembuatan konten foto dengan nuansa seksual</figcaption></figure>Pernyataan itu melanjutkan, “Tindakan ini melanggar standar etika dan berpotensi melanggar hukum AS terkait [materi pelecehan seksual anak]. Ini merupakan kegagalan sistem pengamanan, dan saya meminta maaf atas dampak yang ditimbulkan. xAI sedang melakukan peninjauan untuk mencegah kejadian serupa di masa depan.”Seperti yang dilansir dari Techcrunch, masih tidak jelas siapa sebenarnya yang bertanggung jawab atau meminta maaf dalam pernyataan tersebut.Menurut Albert Burneko dari Defector menilai Grok “tidak bisa dianggap sebagai ‘aku’ dalam arti yang nyata”, sehingga permintaan maaf itu dianggap “tidak bermakna”, karena Grok tidak dapat dimintai pertanggungjawaban secara langsung atas dampak yang ditimbulkannya.BACA JUGA: <a target="_blank" rel="noopener noreferrer" href="https://balinesia.id/read/cara-gunakan-grok-aplikasi-ai-saingan-chat-gpt">Cara Gunakan Grok, Aplikasi AI Saingan ChatGPT</a><h2>Kontroversi Grok</h2>Seperti yang telah Anda ketahui, Grok diketahui telah menghasilkan gambar porno tanpa persetujuan. Selain it, Grok telah dimanfaatkan oleh pengguna X untuk membuat berbagai foto perempuan yang mengalami kekerasan dan pelecehan seksual.Elon Musk turut menanggapi, “Siapa pun yang menggunakan Grok untuk membuat konten ilegal akan menghadapi konsekuensi yang sama seperti jika mereka mengunggah konten ilegal tersebut.”<figure class="image"><img src="https://ik.trn.asia/uploads/2026/01/1767597546876.jpeg"><figcaption>Tanggapan Elon Musk terkait pengguna yang memanfaatkan Grok utuk membuat konten ilegal</figcaption></figure><h2>Pemerintah Beberapa Negara Mulai Ambil Langkah</h2>Dilansir dari Techcrunch, kementerian Teknologi Informasi India telah mengeluarkan perintah pada Jumat lalu yang menyatakan bahwa X harus membatasi Grok agar tidak menghasilkan konten yang “cabul, pornografi, vulgar, tidak senonoh, eksplisit secara seksual, pedofilia, atau konten lain yang dilarang oleh hukum.”&nbsp;X bahkan diberi waktu 72 jam untuk menanggapi, atau berisiko kehilangan perlindungan hukum (“safe harbor”) yang biasanya melindungi platform dari tanggung jawab atas konten buatan pengguna.Otoritas Prancis juga menyatakan akan bertindak. Kantor Kejaksaan Paris mengatakan kepada Politico bahwa mereka akan menyelidiki maraknya konten deepfake bermuatan seksual di X.&nbsp;Kantor urusan digital Prancis menyebutkan bahwa tiga menteri pemerintah telah melaporkan “konten yang jelas-jelas ilegal” kepada kejaksaan dan ke platform pengawasan daring milik pemerintah untuk meminta penghapusan segera.Sementara itu, Komisi Komunikasi dan Multimedia Malaysia juga merilis pernyataan bahwa mereka “sangat prihatin” atas laporan publik mengenai penyalahgunaan alat kecerdasan buatan di platform X, khususnya manipulasi digital gambar perempuan dan anak di bawah umur untuk menghasilkan konten yang tidak senonoh, sangat ofensif, dan berbahaya.BACA JUGA:<ul><li><a target="_blank" rel="noopener noreferrer" href="https://balinesia.id/read/ini-arti-di-balik-perbedaan-warna-paspor-di-berbagai-negara">Ini Arti di Balik Perbedaan Warna Paspor di Berbagai Negara</a></li><li><a target="_blank" rel="noopener noreferrer" href="https://balinesia.id/read/4-crypto-fundamental-kuat-tahun-2026-jangan-asal-beli">4 Crypto Fundamental Kuat Tahun 2026, Jangan Asal Beli!</a></li><li><a target="_blank" rel="noopener noreferrer" href="https://balinesia.id/read/cara-aktivasi-coretax-sebelum-disuruh-lapor-pajak">Cara Aktivasi Coretax Sebelum Disuruh Lapor Pajak</a></li></ul><h2>Kasus Pembuatan Konten Bernuansa Seksual Melalui Grok</h2><figure class="image"><img src="https://ik.trn.asia/uploads/2026/01/1767597638627.jpeg"><figcaption>Kasus Pembuatan Konten Bernuansa Seksual Melalui Grok di X di Indonesia</figcaption></figure>Kasus ini juga ramai bagi warganet Indonesia di platform X. Banyak orang yang mulai aware akan kasus ini dan mengajak pengguna lebih berhati-hati untuk mengunggah foto.Selagi menunggu pihak X bertindak, ada beberapa cara yang bisa Anda lakukan untuk meminimalisir pembuatan konten bernuansa seksual melalui Grok.Caranya, adalah tidak mengunggah foto diri di X, atau hapus semua foto diri yang diunggah di X. Kemudian, nonaktifkan semua opsi ‘Grok dan Kolaborator Pihak Ketiga’ yang ada di pengaturan Privasi dan Keamanan.<blockquote>Tulisan ini telah tayang di <a target="_blank" rel="noopener noreferrer" href="https://balinesia.id/read/2-negara-kecam-ai-grok-terkait-pembuatan-deepfake-seksual">balinesia.id</a> oleh pada 05 Jan 2026 &nbsp;</blockquote>

JUSTINA.png

Cara Menggunakan Grok, Aplikasi Saingan ChatGPT Milik Elon Musk 

2 Negara Kecam AI Grok Terkait Pembuatan Deepfake Seksual

Prancis & Malaysia menyusul India untuk mengecam AI buatan X, Grok karena membuat deepfake bernuansa seksual perempuan dan anak di bawah umur.

Kontroversi AI Grok: 2 Negara Kecam Deepfake Seksual