Deepfake Naik 550%, Platform Global Diminta Sediakan Fitur Cek Konten AI

Jakarta, ID – Data Sensity AI mencatat peningkatan 550% konten deepfake dalam lima tahun terakhir. Karena itu, Kementerian Komunikasi dan Digital (Kemkomdigi) meminta pengelola platform digital/media sosial menyediakan fitur cek konten AI.

Deepfake merupakan media profil, biasanya seseorang, yang dibuat berbasis kecerdasan buatan (AI) yang sangat realistis berupa gambar, video, atau audio yang dipalsukan atau dimanipulasi sehingga tampak sangat nyata.

Pembuatan deepfake menggunakan teknologi Deep Neural Networks dan Generative Adversarial Networks untuk meniru atau mereplikasi pola ekspresi wajah, gerakan, dan suara seseorang.

Deepfake pun dapat disalahgunakan untuk merusak nama baik, menyebarkan disinformasi politik, melakukan penipuan finansial, hingga menciptakan konten pornografi ilegal.

Wakil Menteri Komunikasi dan Digital (Wamenkomdigi) Nezar Patria pun meminta platform digital global menghadirkan fitur pengecekan dalam mengenali konten yang dibuat berbasis artificial intelligence (AI) itu untuk membantu masyarakat menangkal hoaks dan deepfake.

“Kita berharap platform media sosial global juga bisa melakukan filter, atau setidaknya menyediakan fitur untuk mengecek apakah sebuah konten buatan AI atau bukan. Fitur ini sebaiknya bisa digunakan publik gratis,” kata Nezar, dalam Talkshow Bentara Nusantara bertajuk ‘Urun Daya Tangkal Hoax dan Deepfake AI’ di Kantor RRI, Jakarta, baru-baru ini.

Menurut Nezar, fenomena deepfake kian mengkhawatirkan. Sebab, data Sensity AI mencatat adanya peningkatan 550% konten deepfake dalam lima tahun terakhir.

“Saya yakin jumlahnya jauh lebih besar karena kemampuan aplikasi untuk membuat video atau foto deepfake kini sangat masif,” tuturnya.

Wamenkomdigi menyebut, platform digital memiliki teknologi komputasi dan algoritma yang dapat dimanfaatkan untuk kepentingan publik.

“Kalau kita meragukan satu isi konten, bisa dicek dengan kekuatan komputasi dan AI yang mereka punya. Misalnya di Meta atau Google, fitur seperti ini bisa jadi bagian layanan standar,” jelas dia.

Nezar pun menekankan, pemerintah berupaya menyeimbangkan inovasi dengan regulasi agar pemanfaatan AI tidak disalahgunakan sebagai alat pembuat konten hoaks.

Karena itu, Indonesia sudah memiliki perangkat hukum seperti UU ITE, UU PDP, PP Tunas, dan sejumlah peraturan teknis. Saat ini, pemerintah juga tengah menyiapkan regulasi khusus pemanfaatan AI yang etis, bermakna, dan bertanggung jawab.

Dukungan Masyarakat

Selain regulasi, Kemkomdigi menggandeng ekosistem luas dari masyarakat, termasuk Mafindo dan media, dalam program cek fakta informasi yang beredar.

“Ruang digital ini milik kita bersama, maka kita perlu kerja sama yang erat untuk menjaga publik dari hoaks dan konten negatif,” tegasnya.

Ketua Mafindo Septiaji Eko Nugroho pun menyampaikan, fenomena deepfake pertama muncul di Indonesia pada 2023 dan saat ini makin berkembang pesat. Konten ini kerap digunakan untuk penipuan digital dan menggiring opini publik, terutama isu politik.

“Untuk isu politik juga ada, tapi deepfake paling banyak digunakan untuk penipuan digital. Kalau ada konten hoaks bentuknya video yang muncul di tahun 2025 dengan tema penipuan digital, itu mayoritas adalah deepfake,” jelas Septiaji.

Karena itu, dia menegaskan, Mafindo akan terus bekerja sama dengan Kemkomdigi, media, dan komunitas pegiat literasi untuk pengecekan fakta terhadap konten-konten hoaks, termasuk deepfake, yang beredar di internet. (dmm)