Bareskrim Polri menegaskan manipulasi foto seseorang menjadi konten mesum menggunakan teknologi AI, termasuk Grok AI di platform X, dapat diproses pidana jika dilakukan tanpa izin pemilik foto. Praktik tersebut dikategorikan sebagai kejahatan siber berbasis deepfake.
Direktur Tindak Pidana Siber Bareskrim Polri Brigjen Himawan Bayu Aji menyatakan pihaknya tengah menyelidiki fenomena ini. Menurutnya, setiap manipulasi data elektronik tanpa persetujuan pemiliknya dapat dikenakan sanksi hukum, terlepas dari aplikasi AI yang digunakan.
Sementara itu, Kementerian Komunikasi dan Digital (Komdigi) juga mengambil langkah tegas terhadap X. Komdigi menilai Grok AI belum memiliki sistem moderasi memadai untuk mencegah pembuatan konten pornografi berbasis foto pribadi warga Indonesia.
Indonesia menyusul sejumlah negara seperti Prancis, India, dan Malaysia yang lebih dulu mempersoalkan penggunaan Grok AI terkait penyalahgunaan teknologi AI.
