Ketika AI Jadi Alat Pelecehan: Kasus “Hi Grok” dan Bahaya Deepfake di Platform X

Perkembangan kecerdasan buatan atau Artificial Intelligence (AI) kerap dipromosikan sebagai tanda kemajuan. Hidup menjadi lebih praktis, pekerjaan lebih cepat selesai, dan banyak hal bisa dilakukan hanya dengan beberapa klik. 

Namun, seperti teknologi lain sebelumnya, AI juga membawa sisi gelap yang perlahan mulai terlihat. Salah satunya adalah pelecehan seksual digital berbasis AI, khususnya pada perempuan.

Salah satu bentuk yang paling sering dibicarakan adalah pornografi deepfake. Mengutip artikel Hukumonline, deepfake adalah teknologi yang memungkinkan wajah seseorang dimanipulasi dan ditempelkan ke gambar atau video lain sehingga terlihat nyata. Masalahnya, teknologi ini kerap digunakan tanpa izin, terutama untuk memproduksi konten seksual.

Kasus “Hi Grok” di platform X milik Elon Musk menjadi contoh yang cukup jelas. Teknologi AI yang awalnya dirilis sebagai fitur baru tersebut, justru dimanfaatkan sebagai alat pelecehan seksual digital. Dampaknya juga tidak bisa dianggap sepele.

Apa Itu Pelecehan Seksual Digital Berbasis AI?

Pelecehan seksual berbasis AI terjadi ketika teknologi digunakan untuk membuat atau menyebarkan konten bermuatan seksual tanpa persetujuan orang yang identitasnya digunakan. Bentuknya tidak selalu ekstrem, tetapi polanya serupa: pengambilalihan kendali atas tubuh dan citra seseorang tanpa izin.

Praktiknya bisa berupa:

• Deepfake seksual, ketika wajah seseorang ditempelkan ke tubuh atau adegan pornografi.
  
• Penggunaan AI image generator untuk membuat versi telanjang atau seksual dari figur nyata.
  
• Chatbot atau voice cloning yang meniru suara dan gaya bicara seseorang untuk kepentingan seksual.

Karena terjadi di ruang digital, pelecehan semacam ini sering dianggap “tidak nyata”. Padahal, dampaknya justru sangat terasa dan sering kali menetap.

Kasus Hi Grok dan Hilangnya Rasa Aman di Ruang Digital Pada Perempuan

Dalam kasus Hi Grok, foto seseorang digunakan tanpa izin untuk kepentingan seksual. Lewat manipulasi gambar, narasi fiktif, atau konten yang menyesatkan, korban kehilangan kendali atas identitas digitalnya sendiri.

Yang terdampak bukan hanya reputasi, tetapi juga rasa aman. Internet yang seharusnya menjadi ruang berekspresi berubah menjadi tempat yang memicu kecemasan. Di sisi lain, publik kerap kesulitan membedakan mana konten yang asli dan mana yang merupakan hasil manipulasi.

Beberapa korban, termasuk figur publik seperti Fransisca Saraswati menyampaikan bagaimana pengalaman ini menimbulkan rasa marah, malu, cemas, dan tertekan. AI membuat pelecehan semacam ini terjadi dengan cepat, menyebar luas, dan sulit dilacak. 

Pada banyak kasus, perempuan menjadi sasaran utama. Studi dari sebuah perusahaan keamanan siber di Amerika Serikat mencatat bahwa 99 persen konten pornografi deepfake dibuat dengan menargetkan perempuan.

Kondisi ini diperberat oleh fakta bahwa jejak digital sering kali tidak benar-benar bisa dihapus. Bagi sebagian korban, dampaknya tidak berhenti ketika konten menghilang, lukanya justru bertahan lebih lama.

Mengapa AI Memperparah Pelecehan Seksual Digital?

Ada beberapa faktor yang membuat AI memperbesar risiko pelecehan seksual digital.

1. Akses yang sangat mudah. Banyak tools AI dapat digunakan oleh siapa saja, bahkan tanpa keahlian teknis. Beberapa platform juga menyediakan akses gratis atau berbiaya rendah.
2. Kecepatan dan skala penyebaran. Satu konten palsu bisa dibuat dalam hitungan detik dan langsung tersebar ke banyak orang.
3. Anonimitas pelaku. Akun anonim memungkinkan pelaku bersembunyi, sehingga sulit dilacak dan dimintai pertanggungjawaban.
4. Aturan yang belum siap. Hingga saat ini, belum ada regulasi yang secara spesifik dan komprehensif mengatur pelecehan seksual berbasis AI, termasuk di Indonesia. Celah ini membuat korban kerap tidak memiliki perlindungan yang memadai.

Dampak Nyata Pelecehan Seksual Digital Berbasis AI bagi Korban

Pelecehan seksual digital bukan sekadar persoalan dunia maya. Dampaknya bisa merembet ke kehidupan nyata.

• Gangguan kesehatan mental
• Penarikan diri dari ruang publik
• Hilangnya kepercayaan diri
• Ancaman terhadap karier dan relasi sosial

Yang kerap menambah beban, korban justru disalahkan. Dalam beberapa kasus, tidak jarang kita temukan narasi-narasi yang justru menyudutkan korban:

Jangan upload foto di media sosial

Makanya pake pakaian yang lebih sopan!

Siapa yang Bertanggung Jawab atas Pelecehan Digital Berbasis AI?

Masalah ini jelas tidak bisa dibebankan pada korban semata. Tanggung jawab harus dibagi:

• Platform teknologi harus lebih serius dalam mendeteksi dan menghapus konten bermasalah 
• Pengembang AI wajib menerapkan batasan etis dan pengamanan.
• Negara juga perlu mengejar ketertinggalan hukum agar mampu melindungi korban kejahatan digital berbasis AI.
• Masyarakat memiliki peran penting untuk berhenti mengonsumsi dan menyebarkan konten pelecehan, meski diklaim “hasil AI”.

Langkah Sederhana yang Bisa Dilakukan

Meski beberapa pembatasan terhadap Grok telah dilakukan di Indonesia dan beberapa negara lain, tapi akses terhadap teknologi serupa masih terbuka. Karena itu, langkah-langkah kecil tetap penting untuk dilakukan.

1. Lebih Sadar saat Menggunakan Internet. Pahami bahwa konten “hasil AI” tetap bisa menyakiti orang sungguhan. Tidak nyata bukan berarti tidak berbahaya.
2. Jangan Ikut Menyebarkan. Rasa penasaran sering jadi alasan orang membagikan ulang konten bermasalah. Padahal, setiap klik dan share ikut memperpanjang luka korban.
3. Dukung Korban, Bukan Menyalahkan. Kalau ada yang bercerita jadi korban, dengarkan. Jangan langsung meragukan atau menyuruh mereka diam.
4. Media dan Kreator Punya Peran Besar. Cara media dan kreator membahas kasus seperti ini penting. Edukasi lebih berguna daripada sensasi.
5. Dorong Aturan dan Teknologi yang Lebih Aman. Kita bisa mendukung kebijakan dan teknologi yang melindungi orang dari pelecehan digital, termasuk aturan khusus soal deepfake seksual.

Penutup: Teknologi Tetap Butuh Etika

AI akan terus berkembang, dan mungkin tidak bisa dihentikan. Namun, selalu ada pilihan tentang bagaimana teknologi digunakan.Kasus Hi Grok mengingatkan bahwa di balik sistem dan algoritma canggih, ada manusia yang bisa terluka.

Menjadi lebih sadar, lebih peduli, dan lebih bertanggung jawab mungkin terdengar sederhana—tetapi justru itulah yang paling dibutuhkan agar ruang digital tidak semakin berbahaya.