MALANG POST – Tim peneliti mahasiswa Universitas Brawijaya, membongkar mekanisme pelecehan seksual digital berbasis kecerdasan buatan (AI generatif) di platform media sosial X, melalui riset PKM-RSH 2026, Malang, guna merumuskan intervensi kebijakan moderasi konten yang responsif gender bagi Kementerian Komdigi.
Tim peneliti mahasiswa dari Universitas Brawijaya (UB) berhasil membongkar mekanisme pelecehan seksual digital berbasis kecerdasan buatan (artificial intelligence/AI) di platform media sosial X.
Melalui riset sosial humaniora, kelima mahasiswa ini menelisik fenomena Technology-Facilitated Sexual Violence (TFSV) yang memanfaatkan celah ketiadaan filter etika pada chatbot generatif.
Riset ini lahir dari keresahan tim terhadap manipulasi narasi dan objektifikasi tubuh yang menyasar kelompok rentan secara nonkonsensual. Ironisnya, eksploitasi identitas digital ini kerap dibungkus rapi atas nama humor teknologi.
Anggota tim dari Program Studi Sosiologi, Fairuz Mumtazah, menjelaskan akar permasalahan yang diangkat dalam penelitian ini.
“Di balik keseruan publik berinteraksi dengan AI generatif, terdapat krisis etika ketika oknum mendelegasikan perintah spesifik untuk memproduksi narasi pelecehan seksual secara terbuka. Integrasi fitur interaktif AI dengan basis data real-time yang tanpa filter telah membuka celah eksploitasi secara sistematis dan masif,” ujar Fairuz.
Pendekatan teknis dilakukan untuk membuktikan fasilitasi agresi digital secara empiris. Anggota tim dari Program Studi Teknik Informatika FILKOM UB, Fajar Okta Ramadan, memaparkan temuan kritis dari ekstraksi data yang dilakukan.
“Dari hasil observasi digital sistematis pada platform X, kami menyaring 390 unit interaksi bersih hingga mencapai titik saturasi data dengan tetap mematuhi etika riset siber KERIS-P melalui anonimisasi identitas. Melalui pra-pemrosesan skrip Python dan pemetaan Social Network Analysis via Gephi, data membuktikan bahwa interaksi agresi terpusat pada sistem Grok AI sebagai penerima sebutan (mention) terbanyak. Kami juga menemukan klaster akun pelaku yang bertindak sebagai aktor jembatan atau penggerak utama dalam mengarahkan perintah pelecehan ke dalam sistem tersebut,” jelas Fajar.
Selain pemetaan arsitektur jaringan, analisis mendalam terhadap relasi kuasa dan wacana pengguna turut dibedah secara tervalidasi. Anggota tim dari Program Studi Psikologi, Safinatun Naja Handayani, menjelaskan temuan di balik narasi tersebut.
“Validitas analisis kualitatif kami uji secara berlapis melalui double coding independen hingga mencapai tingkat reliabilitas nyaris sempurna dengan metrik kappa 0,974. Dari Analisis Wacana Kritis (AWK), terbukti bahwa pelaku menggunakan AI untuk melunturkan rasa bersalah. Melalui mekanisme moral disengagement tipe euphemistic labeling, pelaku membungkus agresi seksual ke dalam ‘candaan AI’. Padahal, secara gramatikal mereka secara aktif mereduksi subjek menjadi sekadar komoditas visual,” terang Safin.
Penelitian strategis ini tidak sekadar memetakan masalah, melainkan juga merumuskan solusi konkret. Sebagai langkah nyata, tim menyusun ringkasan kebijakan (policy brief) berjudul “SAFE AI: Intervensi Kebijakan Moderasi Platform Interaktif Guna Mencegah Objektifikasi Seksual Generatif di Ruang Digital” yang ditujukan kepada Kementerian Komunikasi dan Digital (Komdigi) serta pengembang teknologi global.
“Sebagai langkah nyata menyelamatkan ekosistem siber nasional, riset ini menghasilkan policy brief berperspektif gender serta video edukasi interaktif Curated Visual Storytelling. Kami juga telah melakukan sinkronisasi kebijakan melalui diskusi kreatif bersama Balai Pelatihan Sumber Daya Manusia (BLSDM) Komdigi Surabaya agar rekomendasi ini benar-benar aplikatif,” tambah Wahyu Najwan Iqbal, ketua tim peneliti dari Program Studi Ilmu Komunikasi FISIP UB.
Penelitian ini turut melibatkan anggota lain dari Program Studi Sosiologi, Rama Caesario Anugrah, yang bertugas menjamin kepatuhan etika riset siber (KERIS-UB).
Pengembangan riset ini didanai melalui Program Kreativitas Mahasiswa Riset Sosial Humaniora (PKM-RSH) 2026 di bawah bimbingan langsung dosen Sosiologi, Ayu Kusumastuti, S.Sos., M.Sc., Ph.D., dan dosen Psikologi, Prof. Cleoputri Al Yusainy, S.Psi., M.Psi., Ph.D.
Melalui temuan empiris dan kampanye edukasi Curated Visual Storytelling yang digencarkan, tim berharap masyarakat dapat bertransformasi menjadi pengguna media sosial yang lebih bijak, kritis, serta beretika.
Di sisi lain, Kementerian Komunikasi dan Digital serta pengembang teknologi AI global didorong untuk segera merumuskan standar moderasi konten yang responsif gender guna mewujudkan ruang digital yang berkeadilan bagi semua. (*/M. Abd. Rachman Rozzi-Januar Triwahyudi)
