Wamenkomdigi Nezar Patria memberikan Keynote Speech dalam acara Indonesia Ethical AI Summit di BSI Tower, Jakarta Selatan, Rabu (17/6/2026). [Foto: Ardi Widiyansah/Komdigi]
DIALEKSIS.COM | Jakarta - Perkembangan kecerdasan artifisial (Artificial Intelligence/AI) yang semakin pesat dinilai turut meningkatkan ancaman penipuan digital melalui penyebaran konten palsu yang sulit dibedakan dari kenyataan.
Wakil Menteri Komunikasi dan Digital Nezar Patria mengatakan teknologi AI kini mampu meniru suara, wajah, hingga gerak tubuh seseorang secara sangat meyakinkan melalui teknologi deepfake. Kemampuan tersebut berpotensi dimanfaatkan oleh pelaku kejahatan siber untuk menjalankan berbagai modus penipuan.
“Sekarang suara kita bisa ditiru, gambar wajah kita bisa ditiru, dan tampil dalam bentuk deepfake video yang dihasilkan oleh AI dengan sangat mulus,” ujar Nezar yang dilansir pada Kamis (18/6/2026).
Menurut dia, kemajuan AI telah menghasilkan apa yang dikenal sebagai synthetic reality atau realitas sintetik, yakni konten hasil rekayasa digital yang menyerupai kondisi nyata. Situasi ini membuat masyarakat semakin sulit membedakan informasi asli dengan informasi palsu.
Nezar menilai rendahnya literasi masyarakat mengenai perkembangan teknologi AI menjadi salah satu faktor yang membuat banyak orang mudah terkecoh oleh berbagai bentuk penipuan digital berbasis AI.
Ia mengingatkan bahwa perkembangan AI tidak hanya menghadirkan manfaat bagi berbagai sektor, tetapi juga memunculkan risiko baru yang perlu diantisipasi melalui penguatan tata kelola dan pengawasan.
Salah satu perhatian utama adalah pengembangan agentic AI, yaitu sistem AI yang memiliki kemampuan melakukan penalaran dan mengambil keputusan secara lebih mandiri. Dalam konteks tersebut, Nezar menekankan pentingnya penerapan prinsip human in the loop agar keputusan penting tetap berada di bawah kendali manusia.
Selain itu, ia menegaskan bahwa penerapan etika AI harus menjadi bagian dari proses pengembangan teknologi sejak tahap awal. Prinsip-prinsip seperti transparansi, akuntabilitas, dan keamanan perlu diintegrasikan langsung dalam desain dan implementasi produk AI.
Menurut Nezar, kolaborasi antara pemerintah, pengembang teknologi, pelaku industri, akademisi, dan masyarakat diperlukan untuk memperkuat mitigasi risiko serta memastikan pemanfaatan AI berlangsung secara bertanggung jawab.
Dengan semakin canggihnya teknologi deepfake dan berbagai bentuk manipulasi digital lainnya, masyarakat juga diimbau untuk lebih kritis dalam memverifikasi informasi, terutama konten audio dan video yang beredar di ruang digital. [*]
Sebelumnya
