Deepfake Naik 550%, Kemkomdigi Desak Platform Global Sediakan Fitur Deteksi Konten AI

DIALEKSIS.COM | Jakarta - Wakil Menteri Komunikasi dan Digital (Wamenkomdig) Nezar Patria mendesak platform digital global seperti Meta dan Google untuk menyediakan fitur pengecekan konten berbasis AI, agar publik dapat lebih mudah mengenali hoaks dan manipulasi visual seperti deepfake.

“Kita berharap platform media sosial global juga bisa melakukan filter, atau setidaknya menyediakan fitur untuk mengecek apakah sebuah konten buatan AI atau bukan. Fitur ini sebaiknya bisa digunakan publik secara gratis,” ujar Nezar yang dilansir pada Kamis (11/9/2025).

Menurut Nezar, peningkatan konten deepfake menjadi ancaman nyata di ruang digital. Ia merujuk pada data Sensity AI yang mencatat kenaikan 550 persen konten deepfake dalam lima tahun terakhir.

“Saya yakin jumlah aslinya jauh lebih besar. Sekarang, aplikasi untuk membuat deepfake itu sudah sangat masif dan mudah diakses,” tegasnya.

Nezar menilai, platform digital memiliki kekuatan komputasi dan algoritma yang bisa dimanfaatkan untuk mendeteksi manipulasi konten secara lebih akurat.

“Kalau kita meragukan satu isi konten, idealnya bisa dicek langsung melalui AI yang dimiliki platform besar. Ini bisa jadi bagian dari layanan standar mereka, dan sangat membantu publik,” kata Nezar.

Pemerintah Siapkan Regulasi Khusus AI

Nezar menegaskan bahwa pemerintah tidak tinggal diam. Saat ini, Kementerian Komunikasi dan Digital tengah menyusun regulasi khusus terkait pemanfaatan AI yang bersifat etis, bermakna, dan bertanggung jawab.

“Kami ingin menyeimbangkan antara inovasi dan regulasi. Jangan sampai AI justru disalahgunakan untuk menyebarkan hoaks atau membuat konten yang menyesatkan,” katanya.

Ia menambahkan, Indonesia sebenarnya sudah memiliki dasar hukum seperti UU ITE, UU PDP, PP TUNAS, dan beberapa peraturan teknis lainnya. Namun, aturan spesifik soal AI tetap diperlukan, mengingat laju perkembangan teknologi yang sangat cepat.

Mafindo: Deepfake Marak Dipakai untuk Penipuan Digital

Ketua Masyarakat Anti Fitnah Indonesia (Mafindo), Septiaji Eko Nugroho, mengatakan bahwa fenomena deepfake pertama kali muncul di Indonesia pada tahun 2023 dan kini berkembang pesat.

“Konten deepfake paling banyak digunakan untuk penipuan digital. Kalau ada video hoaks di tahun 2025 dengan tema penipuan, bisa dipastikan mayoritas itu adalah deepfake,” kata Septiaji dalam kesempatan yang sama.

Menurutnya, selain untuk penipuan, konten deepfake juga mulai digunakan untuk membentuk opini publik, khususnya di ranah politik.

“Kalau tidak diantisipasi sejak dini, ini bisa sangat membahayakan demokrasi kita,” imbuhnya.

Septiaji memastikan Mafindo akan terus memperkuat kerja sama dengan pemerintah, media, dan komunitas literasi digital dalam program pengecekan fakta.

“Kami tidak bisa bekerja sendiri. Ruang digital ini milik bersama, jadi kita harus bergotong-royong untuk menjaga publik dari konten menyesatkan,” tegasnya. [*]