JAKARTA, Naraya Media – Kementerian Komunikasi dan Digital (Komdigi) mendapati fitur kecerdasan buatan Grok AI di platform X belum memiliki pengaturan yang eksplisit untuk mencegah dan memproduksi konten pornografi berbasis foto nyata.
Direktur Jenderal Pengawasan Ruang Digital Komdigi Alexander Sabar menyebut di temuan awal menunjukkan bahwa belum ada pengaturan yang spesifik dalam Grok AI untuk mencegah distribusi konten berbau pornografi dari foto pribadi.
“Temuan awal menunjukkan belum adanya pengaturan spesifik dalam Grok AI untuk mencegah pemanfaatan teknologi ini dalam pembuatan dan penyebaran konten pornografi,” ujar Alexander, dalam keterangan resmi, Rabu (7/1).
Alexander juga menegaskan bahwa setiap Penyelenggara Sistem Elektronik (PSE) wajib memiliki mekanisme perlindungan untuk pengguna. “PSE wajib memastikan bahwa teknologi yang mereka sediakan tidak menjadi sarana pelanggaran privasi,” kata Alexander.
Apabila Grok AI tidak bisa mematuhi mekanisme PSE, maka pihak Komdigi tidak ragu untuk memberikan sanksi administratif hingga pemutusan akses layanan Grok AI. “Ruang digital bukan ruang tanpa hukum, ada privasi dan hak atas citra diri setiap warga yang harus dihormati dan dilindungi,” tambah Alexander.
Seperti diketahui, belakangan ini media sosial X sedang diramaikan oleh permasalahan Grok AI. Warganet kerap menyalahgunakan fitur ini untuk memanipulasi sebuah foto hanya dari permintaan tertulis. (*)
Penulis: Wildan Adil Hilba
