Setelah Indonesia, Giliran Brasil Ancam Blokir Grok karena Gambar Porno

Kecerdasan Buatan (AI) memang menjanjikan inovasi dan kemudahan, namun juga menyimpan potensi masalah etika yang serius. Chatbot AI Grok, yang dikembangkan oleh xAI milik Elon Musk dan terintegrasi dengan platform media sosial X, kini menjadi sorotan tajam dunia. Setelah bulan lalu Indonesia mengambil langkah drastis dengan memblokir Grok secara penuh, kini giliran Brasil yang menekan X agar segera menghentikan produksi gambar-gambar eksplisit secara seksual yang dihasilkan oleh Grok. Tekanan internasional ini menyoroti perdebatan tentang batasan AI, tanggung jawab platform, dan perlindungan pengguna dari konten berbahaya.

Ultimatum Tegas dari Brasil: Ancaman Hukum dan Denda

Pada Rabu, 11 Februari 2026, otoritas Brasil secara resmi memerintahkan platform media sosial X untuk segera mengambil tindakan tegas. Perintah ini datang dari gabungan lembaga pemerintah yang berwenang, yaitu Jaksa Agung Brasil, Badan Perlindungan Data Nasional (ANPD), dan Biro Hak Konsumen Nasional (Senacon). Mereka menuntut X untuk “segera menerapkan langkah-langkah yang tepat untuk mencegah produksi, menggunakan Grok, konten seksual atau erotis anak-anak dan remaja, serta orang dewasa yang belum memberikan persetujuan mereka.”
Ancaman ini bukan gertakan semata. Lembaga-lembaga tersebut memberikan X waktu lima hari untuk sepenuhnya mematuhi perintah ini. Jika X gagal memenuhi persyaratan tersebut, mereka akan menghadapi konsekuensi hukum yang serius, termasuk potensi denda dalam jumlah besar. Ini menunjukkan keseriusan Brasil dalam menangani masalah konten berbahaya yang dihasilkan oleh AI, terutama yang menyangkut eksploitasi dan pelecehan.
X sebelumnya telah mengklaim telah melakukan penghapusan ribuan unggahan dan menangguhkan ratusan akun setelah Brasil mengeluarkan peringatan pada bulan sebelumnya. Namun, temuan terbaru dari pemeriksaan otoritas Brasil menunjukkan bahwa upaya tersebut masih belum cukup. Pengguna Grok dilaporkan masih mampu menghasilkan deepfake yang berbau seksual, sebuah bukti bahwa mekanisme pencegahan X masih memiliki celah signifikan. Otoritas Brasil secara terang-terangan mengecam X karena “tidak transparan dalam tanggapannya,” mengindikasikan kurangnya kepercayaan terhadap komitmen platform dalam menyelesaikan masalah ini.

Jejak Kontroversi di Kancah Global: Dari Jakarta hingga Paris

Indonesia telah menjadi negara pertama yang sepenuhnya memblokir akses ke Grok pada Januari 2026, menyusul temuan serupa terkait kemampuan chatbot tersebut dalam menghasilkan gambar-gambar yang tidak senonoh. Langkah Jakarta menjadi preseden penting, menunjukkan bahwa pemerintah memiliki kekuasaan dan kemauan untuk menindak tegas teknologi yang melanggar norma dan hukum domestik.
Tidak hanya Brasil dan Indonesia, Inggris dan Prancis juga telah menyuarakan keprihatinan serius. Kedua negara Eropa tersebut telah berjanji untuk terus memberikan tekanan kepada X dan xAI agar memperbaiki sistem Grok. Kasus-kasus di mana chatbot ini menghasilkan foto-foto cabul perempuan dan anak-anak telah memicu gelombang kemarahan dan desakan global agar ada pertanggungjawaban yang lebih besar dari pengembang AI. Tekanan ini mencerminkan konsensus internasional yang berkembang bahwa perusahaan teknologi harus bertanggung jawab penuh atas dampak produk AI mereka, terutama yang berpotensi membahayakan masyarakat.

Di Balik Fitur ‘Spicy Mode’: Akar Masalah Konten Eksplisit

Akar masalah dari gelombang kontroversi ini adalah fitur yang secara tidak bertanggung jawab disebut “Spicy Mode” dalam Grok. Fitur ini memungkinkan pengguna untuk membuat deepfake yang berbau seksual dari individu, termasuk perempuan dan anak-anak, hanya dengan menggunakan perintah teks sederhana. Misalnya, perintah seperti “pakaikan dia bikini” atau “lepaskan pakaiannya” dapat secara instan menghasilkan gambar-gambar eksplisit yang sangat meresahkan.
Teknologi deepfake sendiri sudah menjadi masalah etika yang besar, memungkinkan manipulasi gambar dan video secara realistis untuk tujuan penipuan, pencemaran nama baik, atau bahkan eksploitasi seksual. Ketika teknologi ini diperkuat oleh kemampuan AI generatif seperti Grok, risikonya meningkat secara eksponensial.
Menurut laporan dari Pusat Penanggulangan Kebencian Digital (CCDH), skala masalah ini sangat mengejutkan. Hanya dalam beberapa hari, Grok dilaporkan telah menghasilkan sekitar tiga juta gambar yang berbau seksual dari perempuan dan anak-anak. Angka ini menggambarkan betapa mudahnya dan cepatnya konten berbahaya tersebut diproduksi dan berpotensi menyebar luas, menciptakan lingkungan digital yang tidak aman, terutama bagi kelompok rentan.

Tanggung Jawab Platform dan Transparansi AI

Pada tanggal 15 Januari 2026, X mengumumkan langkah-langkah baru untuk mencegah Grok menelanjangi gambar orang sungguhan di negara-negara di mana tindakan tersebut dianggap ilegal. Namun, detail mengenai di mana langkah-langkah ini berlaku dan seberapa efektifnya masih belum jelas, menambah kekhawatiran tentang kurangnya transparansi platform.
Insiden Grok ini bukan hanya tentang satu fitur yang salah, melainkan tentang pertanyaan yang lebih besar mengenai tanggung jawab platform AI dalam mengelola output dari model mereka. Perusahaan teknologi memiliki kewajiban moral dan etika untuk memastikan bahwa inovasi mereka tidak disalahgunakan untuk tujuan yang merugikan. Ini mencakup implementasi filter konten yang kuat, mekanisme pelaporan yang efektif, dan transparansi penuh tentang bagaimana AI dikembangkan dan dimoderasi. Kegagalan dalam aspek-aspek ini dapat merusak kepercayaan publik dan mengundang intervensi regulasi yang lebih ketat.

Implikasi Regulasi dan Masa Depan Kecerdasan Buatan

Kasus Grok ini menjadi studi kasus penting dalam perdebatan global tentang regulasi AI. Banyak negara sedang bergulat dengan bagaimana cara terbaik untuk mengawasi dan mengendalikan pengembangan serta penyebaran AI untuk mencegah penyalahgunaan. Ancaman pemblokiran dan tuntutan hukum dari negara-negara seperti Indonesia dan Brasil menunjukkan bahwa pemerintah tidak akan ragu untuk mengambil tindakan protektif demi melindungi warganya, terutama anak-anak dan remaja, dari bahaya digital.
Masa depan kecerdasan buatan akan sangat bergantung pada kemampuan pengembang dan platform untuk membangun sistem yang tidak hanya inovatif tetapi juga etis dan aman. Ini membutuhkan komitmen yang kuat terhadap AI yang bertanggung jawab, investasi dalam penelitian mitigasi risiko, dan dialog terbuka dengan regulator serta masyarakat sipil. Tanpa langkah-langkah ini, potensi AI yang luar biasa mungkin akan terhambat oleh kekhawatiran yang sah tentang penyalahgunaan dan dampak negatifnya.

Penutup

Perintah Brasil kepada X untuk menghentikan produksi gambar eksplisit oleh Grok adalah babak terbaru dalam saga yang terus berkembang tentang etika dan regulasi AI. Setelah tindakan tegas Indonesia, tekanan global terhadap Elon Musk dan xAI semakin intens. Pertanyaan krusial kini adalah: apakah X akan mampu memenuhi tuntutan ini dan memulihkan kepercayaan, atau akankah kita melihat lebih banyak negara mengikuti jejak Indonesia dan Brasil dalam membatasi atau memblokir akses ke Grok dan mungkin teknologi AI generatif lainnya? Insiden ini adalah pengingat tajam bahwa inovasi teknologi harus selalu diimbangi dengan tanggung jawab sosial dan etika yang kuat.