RM.id Rakyat Merdeka - Peneliti Universitas Islam Negeri (UIN) Syarif Hidayatullah Jakarta mengembangkan model kecerdasan buatan (AI) yang dirancang untuk mendeteksi, mengukur, dan memitigasi risiko ekstremisme keagamaan di ruang digital.
Model bernama Trustworthy–Explainable Artificial Intelligence (TREX-AI) tersebut dikembangkan dengan memadukan pendekatan komunikasi politik, computational psychometrics, dan tata kelola platform.
Ketua Tim Peneliti Gun Gun Heryanto mengatakan, riset tersebut tidak semata-mata melihat ekstremisme keagamaan sebagai persoalan teknologi, tetapi juga sebagai persoalan komunikasi politik di ruang digital.
“Sebab itu, riset ini penting dibaca bukan hanya semata persoalan teknologi, tapi ini persoalan komunikasi politik. Jadi bacaannya tidak semata-mata technological determinism, tetapi harus ditempatkan dalam posisi kajian komunikasi politik,” ujar Gun Gun dalam Public Expose hasil penelitian di Gedung Fakultas Dakwah dan Ilmu Komunikasi (FDIKOM) UIN Jakarta, Rabu (7/10/2026).
Menurut Gun Gun, perkembangan ekosistem digital telah mengubah pola kekuasaan komunikasi.
Perebutan pengaruh di media sosial tidak lagi hanya berkaitan dengan kemampuan memproduksi pesan, tetapi juga bagaimana pesan tersebut mendapatkan keterlihatan.
“Tesis penelitian ini: kekuasaan komunikasi bergeser dari kemampuan memproduksi pesan ke kemampuan mengatur keterlihatannya,” ungkapnya.
Dekan FDIKOM UIN Jakarta itu menjelaskan, kebutuhan terhadap sistem AI yang dapat dipercaya dan dijelaskan muncul antara lain karena sistem moderasi platform cenderung bekerja seperti kotak hitam (black box).
Kondisi tersebut berpotensi membuat ekspresi keagamaan substantif disalahartikan sebagai ujaran ekstrem.
“Intoleran, radikalisme, dan terorisme merupakan hal yang faktual. Ada krisis komunikasi publik yang bergeser menjadi krisis algoritmik. Nah ini kenapa kemudian rekomendasi kita dan temuan kita mengarah pada adanya kebijakan soal trustworthy dan explainable AI,” kata Gun Gun.
Baca juga : Keamanan Anak Tak Cuma Tempelan Di Ruang Digital
Riset tersebut didanai melalui Program Pendanaan Riset Indonesia Bangkit (MoRA The AIR Funds) Pusat Pembiayaan Pendidikan Agama dan Pendidikan Keagamaan (Puspenma) Kementerian Agama-Lembaga Pengelola Dana Pendidikan (LPDP) 2025–2026.
Penelitian dikerjakan tim multidisiplin yang terdiri atas Prof. Gun Gun Heryanto, M.Si. (Komunikasi Politik), Dr. Rubiyanah, M.A. (Ilmu Dakwah), Abdul Azis, M.Psi. (Psikologi), serta mitra peneliti Zaenudin Amrulloh, M.Si. (Sosiologi/Dosen UIN Mataram).
Hasil riset tersebut turut ditanggapi Founder Drone Emprit Ismail Fahmi dan Ketua Tim Investasi Pendidikan, Kerja Sama, dan Riset Puspenma Kemenag Hendro Dwi Antoro.
Penelitian menggunakan desain Mixed Methods Sequential Explanatory dengan mengombinasikan survei nasional terhadap 1.500 responden pengguna media sosial di 33 provinsi, evaluasi psikometrik, analisis Structural Equation Modeling-Partial Least Squares (SEM-PLS), serta Focus Group Discussion (FGD) di Yogyakarta dan Lombok.
Dari 67 indikator awal, tim memvalidasi 34 indikator final. Model struktural SEM-PLS menghasilkan daya jelas sebesar 0,472. Artinya, variabel tata kelola platform, TREX-AI, dan Digital Religious Framing mampu menjelaskan 47,2 persen variasi risiko ekstremisme keagamaan digital.
Temuan tersebut menunjukkan tiga hal utama. Pertama, Platform Governance memiliki hubungan paling kuat dan dominan dalam meredam risiko ekstremisme digital.
Kedua, Trustworthy–Explainable AI berhubungan positif dan signifikan sebagai instrumen pendukung yang transparan. Ketiga, Digital Religious Framing berhubungan signifikan melalui pembingkaian narasi koeksistensi.
Anggota tim peneliti Abdul Azis mengatakan, riset tersebut dibangun melalui tiga lapisan analisis, yakni survei dan analisis data demografi, analisis konstruksi empat varian, serta analisis sampel PLS.
Ia menegaskan, data demografi dalam riset tidak dimaksudkan untuk menunjukkan individu, kelompok, atau wilayah yang berpotensi ekstremis.
“Tapi catatan penting adalah, data demografi ini tidak menunjukkan individual atau kelompok atau wilayah yang potensi ekstremis. Tapi ini hanya potret terkait dengan sampel 1.500 yang mengakses soal konten-konten ekstremisme keagamaan,” papar Abdul Azis.
Baca juga : Ismail Hasani Resmi Jadi Guru Besar Hukum Konstitusi UIN Jakarta
Mengenai platform yang menjadi ruang utama sirkulasi isu keagamaan, riset menunjukkan TikTok diakses oleh 80 persen responden dan Instagram 53 persen.
“Jadi, kalau dulu ada YouTube, Facebook, X, hari ini Gen Z atau 1.500 sampel itu bicaranya, bertarungnya, atau mengakses konten ekstremisme itu di dua platform, yaitu TikTok dan Instagram,” tambah Azis.
Azis juga menyoroti pola interaksi responden yang cenderung pasif di media sosial. Dari 1.500 responden di 33 provinsi, interaksi yang paling banyak dilakukan berupa pemberian tanda suka dan reaksi.
“Artinya, kalau kita lihat datanya, berdiskusi secara aktif, perdebatan, diskusi, tukar pendapat, itu ternyata tidak terjadi di sosial media,” papar Azis.
Sementara terkait figur yang dipercaya dalam persoalan agama, otoritas konvensional masih memiliki peran penting.
Sebanyak 63 persen responden menyatakan percaya kepada tokoh agama konvensional, sedangkan 41 persen percaya kepada pendakwah atau influencer.
“Maknanya adalah, platform berfungsi sebagai ruang penyebaran dan perjumpaan dengan informasi, sedangkan legitimasi isi keagamaan masih ditekankan pada figur yang berotoritas,” tegas Azis.
Rekomendasi Kebijakan dan Prototipe TREX-AI Berdasarkan analisis computational psychometrics, tim merumuskan Digital Religious Extremism Risk Index (DRERI) yang dibentuk dari tujuh indikator risiko dalam empat dimensi, yakni Religious Absolutism, Outgroup Rejection, Moral Delegitimization, dan Support for Intolerant Digital Action.
Sebagai bentuk penerapan hasil riset, tim juga menyusun peta jalan fungsional dan prototipe TREX-AI Engine serta DRERI Dashboard.
Prototipe tersebut dirancang dengan prinsip human in the loop, sehingga analisis AI tetap harus diawasi dan diverifikasi oleh analis manusia.
Baca juga : Meutya Bahas Perlindungan Anak-anak Di Ruang Digital
Riset ini menghasilkan lima rekomendasi kebijakan utama. Pertama, penyusunan kebijakan nasional dengan mendorong Kementerian Agama, Badan Nasional Penanggulangan Terorisme (BNPT), dan Kementerian Komunikasi dan Digital (Komdigi) menetapkan standar pengukuran risiko ekstremisme digital berbasis tata kelola platform.
Kedua, penerapan sistem pengukuran berbasis TREX-AI yang transparan, akuntabel, dan dapat dijelaskan.
Ketiga, penguatan tata kelola keterlihatan platform. Komdigi dan pengelola platform digital didorong memperluas tata kelola dari sekadar penghapusan konten (takedown) menuju transparansi algoritma rekomendasi serta penyediaan mekanisme keberatan bagi pengguna.
Keempat, pemanfaatan deteksi dini. BNPT dan Kemenag dapat menggunakan indeks DRERI sebagai pendukung asesmen awal tanpa menjadikannya sebagai alat pelabelan individu.
Kelima, penguatan ekosistem moderasi beragama digital melalui literasi digital, literasi algoritmik, serta peningkatan kapasitas komunikasi digital bagi tokoh agama dan penyuluh.
Riset nasional tersebut menghasilkan delapan luaran utama, antara lain laporan penelitian, buku naratif AI Saja Tidak Cukup, policy brief, functional blueprint, artikel jurnal internasional terindeks Scopus di Ulumuna, prototipe dashboard, serta pendaftaran Hak Kekayaan Intelektual (HKI) dan International Standard Book Number (ISBN).
Tim UIN Jakarta berharap, model TREX-AI dan indeks DRERI dapat diuji coba secara terbatas di sekolah dan kampus sebagai proyek percontohan untuk memperkuat moderasi beragama berbasis bukti.
Update berita dan artikel RM.ID menarik lainnya di Google News
Dapatkan juga update berita pilihan dan breaking news setiap hari dari RM.id. Mari bergabung di Grup Telegram "Rakyat Merdeka News Update", caranya klik link https://t.me/officialrakyatmerdeka kemudian join. Anda harus install aplikasi Telegram terlebih dulu di ponsel.