Roadmap AI Siap Redam Bahaya Serangan Deepfake

RM.id  Rakyat Merdeka - Kementerian Komunikasi dan Digital (Komdigi) menegaskan, Peta Jalan Kecerdasan Artifisial (AI) Nasional yang tengah disiapkan Pemerintah akan menjadi instrumen kunci untuk meredam maraknya konten manipulatif dan serangan deepfake. Upaya ini diarahkan memperkuat perlindungan publik di tengah meningkatnya risiko disinformasi digital.

Pernyataan itu disampaikan Wakil Menteri Komunikasi dan Digital (Wamenkomdigi) Nezar Patria dalam Dialog NgobrolIndonesia Forum Merdeka Barat9 (FMB9) di Jakarta. Acara bertajuk Perkembangan Kecerdasan Artifisial Sebagai Jembatan Menuju Indonesia Emas 2045.

Nezar menilai, adopsi AI di Indonesia bergerak sangat cepat. Perkembangan teknologi dipandang membawa manfaat besar sekaligus risiko serius bagi masyarakat.

“Perlu kita tekankan penggunaan kecerdasan artifisial dengan pendekatan etis dan terukur demi keselamatan masyarakat luas,” ujarnya, saat menjawab pertanyaan Rakyat Merdeka.

Penggunaan teknologi kini menyentuh kesehatan, pendidikan, layanan keuangan dan transportasi. Masyarakat juga kreatif memakai model generatif untuk membuat video musik dan cerita digital. “Kondisi itu menggambarkan perubahan besar dalam cara publik memproduksi informasi,” katanya.

Namun demikian, perlu diingat bahwa pertumbuhan cepat menghadirkan ancaman baru terhadap keamanan dan keselamatan digital. Risiko paling menonjol hadir melalui konten manipulatif yang tampak realistis. Produk manipulatif itu dikenal sebagai deepfake dan menyebar melalui platform media sosial. 

Deepfake adalah konten digital palsu yang dibuat dengan AI yang memanipulasi wajah dan suara seseorang hingga terlihat nyata. Deepfake biasanya dipakai untuk penipuan, pornografi, atau menyebarkan informasi menyesatkan karena sulit dibedakan dari yang asli.

Baca juga : Kemenag Perkuat Wakaf Produktif, Dorong Kemandirian Pangan Umat

Nezar mengatakan, Komdigi menempatkan perlindungan publik sebagai prioritas utama, terutama dalam mengantisipasi hoaks. Strategi kebijakan itu dirancang untuk memastikan teknologi membawa manfaat bukan kekacauan sosial. Kerja bersama lintas sektor dianggap kunci mengurangi dampak negatif.

“Deepfake punya impact destruktif dan bisa memicu kerusuhan,” kata mantan jurnalis media cetak ini.

Dia menerangkan, Pemerintah membangun kolaborasi intensif bersama platform digital Polri, Kejaksaan dan pemangku kepentingan lain. Pengawasan bersama itu untuk menekan penyebaran konten manipulatif serta mencegah gangguan ketertiban umum. 

Perusahaan platform diminta meningkatkan tanggung jawab dalam mengendalikan distribusi produk digital berbahaya. “Kita minta platform punya alat deteksi agar pengguna tidak terkecoh,” ujar dia.

Nezar mendorong penyedia layanan digital memasang fitur pendeteksi otomatis untuk menandai konten manipulatif. Pengembang atau platform juga diarahkan menyertakan metadata autentikasi agar publik mengetahui status keaslian konten. Langkah itu bertujuan menjaga ruang digital Indonesia tetap aman dan tidak mudah diprovokasi oleh konten palsu.

Dia kemudian menjelaskan konsep perlindungan kelompok rentan dalam Peta Jalan Nasional Artificial Intelligence. Pengaturan usia pengguna platform digital dilaksanakan melalui kerja sama penyedia layanan. 

Kebijakan itu didukung Peraturan Pemerintah untuk menjaga keamanan anak perempuan lansia dan masyarakat pelosok. Pemerintah menekan risiko kekerasan digital termasuk bullying dan pelecehan seksual berbasis bot. “Pengembangan AI yang tidak etis harus dibatasi karena berbahaya bagi psikologi pengguna” katanya.

Baca juga : Kolaborasi Komdigi-OSNOVA Perkuat Ekosistem Digital Aman Dan Taat UU PDP

Nezar menyebut, keamanan data pribadi menjadi elemen penting di era kecerdasan artifisial. Pemerintah membangun Pusat Data Nasional dengan klasifikasi penyimpanan data tertutup terbatas dan terbuka. 

Sistem itu menjaga kerahasiaan data sensitif agar tidak bocor ke pihak tidak bertanggung jawab. Dia meminta publik berhati hati mengunggah foto atau dokumen pribadi ke layanan generatif.

“Jangan kaget kalau wajah mirip kita muncul pada foto yang digenerate orang lain,” ucapnya. Selain itu, Indonesia juga tengah menyiapkan talenta digital untuk menghadapi ekonomi kecerdasan artifisial. 

Nezar memaparkan, program AI Talent Factory yang dikelola Badan Pengembangan Sumber Daya Manusia Komunikasi dan Digital (BPSDM Komdigi). Program itu melatih mahasiswa dan periset menjadi pengguna pengembang dan deployer kecerdasan artifisial. 

Kolaborasi pelatihan melibatkan perusahaan teknologi dan universitas internasional seperti Oxford Stanford dan MIT. “Tujuannya agar Indonesia tidak menjadi penonton” kata Nezar.

Dia menegaskan, visi Sovereign Artificial Intelligence untuk memastikan teknologi nasional berdaulat. Model lokal diperlukan agar nilai budaya dan kepentingan masyarakat Indonesia tetap terjaga. Apalagi saat ini  teknologi asing membawa bias nilai negara asal yang belum tentu sesuai kebutuhan Indonesia. “Kita harus jadi tuan bukan budak AI,” tutup Nezar.

Sementara itu, Kepala Badan Pengembangan Sumber Daya Manusia (BPSDM) Kemkomdigi, Bonifasius Wahyu Pudjianto, menyebutkan bahwa roadmap AI nasional sudah siap.  Peta jalan itu tertuang draf Peraturan Presiden (Perpres) tentang AI. 

Baca juga : PUJAAN Vol. 4: Perkuat Literasi Digital dan Keuangan Pelaku Usaha Mikro Perempuan

Regulasi tersebut meliputi Peta Jalan AI Nasional serta panduan keamanan dalam pengembangan dan pemanfaatan AI. “Kami masih menunggu harmonisasi. Mudah-mudahan awal tahun depan terbit menjadi Perpresnya,” ujar Bonifasius.

Dia menjelaskan, penyusunan draf Perpres AI telah melalui proses diskusi lintas sektor selama lebih dari empat bulan, melibatkan para pemangku kepentingan dari berbagai kalangan, termasuk pemerintah, akademisi, industri teknologi, dan masyarakat sipil.

“Pembahasan bersama seluruh stakeholder. Itu cukup lama, sampai 4 bulan lebih. Setelah selesai, kita sudah ajukan rancangan Perpresnya,” tambahnya.

Terbitnya Peraturan Presiden tentang kecerdasan artifisial sekaligus Peta Jalan AI Nasional diharapkan memberi kerangka etis, strategis, dan aman bagi Indonesia. Pemerintah menargetkan pemanfaatan kecerdasan buatan berkembang di berbagai sektor, mulai pendidikan kesehatan ekonomi digital hingga pemerintahan.

Update berita dan artikel RM.ID menarik lainnya di Google News

Dapatkan juga update berita pilihan dan breaking news setiap hari dari RM.id. Mari bergabung di Grup Telegram "Rakyat Merdeka News Update", caranya klik link https://t.me/officialrakyatmerdeka kemudian join. Anda harus install aplikasi Telegram terlebih dulu di ponsel.