Berita : Waspada Deepfake! Kemkomdigi Soroti Grok AI di X Terkait Konten Asusila

Perkembangan teknologi kecerdasan buatan (AI) membawa tantangan baru bagi privasi digital kita. Baru-baru ini, Kementerian Komunikasi dan Digital (Kemkomdigi) mengambil langkah tegas terhadap dugaan penyalahgunaan fitur Grok AI di platform X (dahulu Twitter). Teknologi tersebut disinyalir digunakan untuk memproduksi konten asusila melalui manipulasi foto pribadi tanpa izin.

Ancaman Nyata Terhadap Privasi dan Hak Citra Diri

Direktur Jenderal Pengawasan Ruang Digital, Alexander Sabar, mengungkapkan kekhawatirannya terhadap celah keamanan pada Grok AI. Berdasarkan penelusuran awal, sistem AI milik Elon Musk ini dianggap belum memiliki filter atau pengaturan yang cukup kuat untuk mencegah pembuatan konten pornografi berbasis foto nyata.

Hal ini bukan sekadar masalah moral, melainkan pelanggaran serius terhadap hak atas citra diri (right to one’s image). Manipulasi digital seperti deepfake dapat merampas kendali individu atas identitas visual mereka sendiri, yang berujung pada kerugian psikologis hingga hancurnya reputasi seseorang. “Setiap Penyelenggara Sistem Elektronik (PSE) wajib memastikan bahwa teknologi mereka tidak menjadi sarana eksploitasi seksual maupun perusakan martabat manusia,” tegas Alexander pada Rabu (07/01/2026).

Baca ini juga :

» MSI Cubi NUC AI+ 3MG: Mini PC Super Ringkas dengan Tenaga AI Masa Depan di CES 2026
» Era Baru Komputasi Lokal: MSI Luncurkan AI Edge Series dengan Prosesor Ryzen™ AI Max+
» Razer Perkenalkan Project Ava: Holografik AI Companion Untuk Temani Meja Kerja dan Bermain Game
» AI Jadi Tempat Curhat? Survei Kaspersky Ungkap Fenomena “Teman Digital” Baru
» Elon Musk Cetak Rekor: Manusia Pertama Berharta $700 Miliar Usai Menangkan Gugatan Tesla

Aturan Tegas: Sanksi Administratif Hingga Blokir

Pemerintah tidak main-main dalam menyikapi isu ini. Kemkomdigi telah berkoordinasi dengan para PSE untuk memperkuat moderasi konten. Jika platform X atau Grok AI terbukti tidak kooperatif dalam menangani laporan pelanggaran privasi, pemerintah telah menyiapkan sanksi berat:

• Sanksi Administratif: Teguran resmi dan denda.
• Pemutusan Akses: Pemblokiran layanan Grok AI hingga platform X di seluruh wilayah Indonesia.

Perlu dicatat bahwa per 2 Januari 2026, Undang-Undang Nomor 1 Tahun 2023 (KUHP Baru) telah resmi berlaku. Regulasi ini memberikan proteksi lebih ketat terkait konten pornografi dan manipulasi digital:

• Pasal 172: Mendefinisikan pornografi sebagai media yang melanggar norma kesusilaan dan eksploitasi seksual.
• Pasal 407: Mengatur ancaman pidana penjara mulai dari 6 bulan hingga 10 tahun, serta denda materiil yang signifikan bagi pelaku.

Selain berita utama di atas, KotakGame juga punya video menarik yang bisa kamu tonton di bawah ini.