Jakarta – Pemerintah mengambil tindakan tegas terhadap penyalahgunaan kecerdasan buatan (AI) yang berpotensi membahayakan masyarakat dengan memblokir sementara aplikasi Grok. Langkah ini diambil setelah adanya dugaan kuat bahwa aplikasi tersebut digunakan untuk menghasilkan konten pornografi palsu.
Menteri Komunikasi dan Digital, Meutya Hafid, menyampaikan bahwa pemutusan akses sementara ini merupakan upaya pemerintah untuk melindungi masyarakat, khususnya perempuan dan anak-anak, dari dampak negatif yang ditimbulkan oleh konten pornografi berbasis AI. “Kementerian Komunikasi dan Digital juga telah meminta Platform X untuk segera hadir guna memberikan klarifikasi terkait dampak negatif penggunaan Grok,” ujarnya.
Keputusan pemblokiran ini didasarkan pada Peraturan Menteri Komunikasi dan Informatika Nomor 5 Tahun 2020 tentang Penyelenggara Sistem Elektronik Lingkup Privat. Peraturan tersebut, khususnya Pasal 9, mewajibkan setiap Penyelenggara Sistem Elektronik (PSE) untuk memastikan bahwa sistem elektronik yang dikelolanya tidak memuat, memfasilitasi, atau menyebarluaskan informasi elektronik yang dilarang.
Sebelumnya, Kominfo telah menerima laporan mengenai penyalahgunaan fitur Grok AI pada platform X. Fitur ini diduga dimanfaatkan untuk memproduksi dan menyebarkan konten asusila, termasuk manipulasi foto pribadi tanpa izin. Diketahui bahwa Grok AI belum memiliki pengaturan yang memadai untuk mencegah produksi dan distribusi konten pornografi berbasis foto nyata warga Indonesia.
Pemerintah menilai bahwa kondisi ini berpotensi melanggar hak privasi dan hak atas citra diri seseorang, terutama ketika foto pribadi dimanipulasi atau disebarluaskan tanpa persetujuan yang sah. Masyarakat yang menjadi korban manipulasi foto atau deepfake asusila diimbau untuk menempuh jalur hukum yang tersedia.
Meutya Hafid menegaskan bahwa “Pemerintah memandang praktik deepfake seksual nonkonsensual sebagai pelanggaran serius terhadap hak asasi manusia, martabat, serta keamanan warga negara di ruang digital.” Korban juga dapat melaporkan kasus tersebut kepada aparat penegak hukum atau mengajukan pengaduan kepada Kominfo.
