Infografis
Suara.com - Sarah McDermott dan Jess Davies
BBC News
Bayangkan apabila wajah Anda diedit secara digital di dalam video porno tanpa persetujuan Anda, lalu video itu tersebar di internet. Seorang perempuan membagikan kisah mengerikan yang menimpanya.
Suatu malam ketika sedang menggulir di lini masa akun Twitter-nya, Kate Isaacs menemukan video yang mengganggu dari notifikasi yang dia terima.
Baca Juga: Cara Mengenali dan Tetap Aman dari Deepfake
Kepanikan tiba-tiba menyergap saya, kata Kate, yang untuk pertama kalinya berbicara di depan umum soal apa yang menimpanya.
Seseorang telah mengambil wajah saya, menggunakannya di video porno, dan membuatnya terlihat seperti saya.
Kate telah menjadi korban deepfake.
Seseorang menggunakan kecerdasan buatan untuk memanipulasi wajahnya secara digital ke wajah artis porno di video itu.
Video deepfake di Twitter itu dibuat menggunakan cuplikan dari wawancara TV yang dia lakukan ketika berkampanye melawan pornografi non-konsensual. Video itu tampaknya menampilkan dia berhubungan seks.
Baca Juga: Muncul Video Deepfake Putin Umumkan Perdamaian dan Zelensky Menyerah
Hati saya remuk. Saya tidak bisa berpikir jernih, kata Kate. Saya masih ingat rasanya bagaimana video itu tersebar kemana-mana, itu sangat buruk.
Baca juga:
- 'Mantan unggah foto porno saya di Instagram' penyebaran konten nonkonsensual yang membuat korban alami gangguan kesehatan mental permanen
- Bagaimana para predator mengincar anak lewat live streaming
- Kekerasan online: Korban revenge porn dimaki, dicekik, hingga konten intim disebar - 'Saya berkali-kali mencoba bunuh diri'
Di masa lalu, selebriti dan politikus terkenal menjadi target utama dari deepfake, meski videonya tidak melulu porno dan beberapa dibuat untuk komedi. Namun selama bertahun-tahun pola itu berubah.
Menurut perusahaan keamanan siber Deeptrace, 96% dari semua deepfake adalah pornografi non-konsensual.
Layaknya pornografi balas dendam, pornografi deepfake termasuk pelecehan seksual berbasis gambar yang mencakup pengambilan, pembuatan dan/atau penyebaran gambar intim tanpa persetujuan.
Di Skotlandia, membagikan gambar atau video yang menunjukkan orang lain di situasi intim tanpa persetujuan mereka adalah sebuah pelanggaran hukum.
Tetapi di bagian lain Inggris Raya, tindakan itu baru termasuk pelanggaran apabila terbukti bertujuan membuat korban tertekan. Ini menjadi celah yang menyebabkan pembuat video sering kali tidak mendapat konsekuensi hukum.
Rencana pemerintah untuk mengesahkan RUU Keamanan Daring di seluruh Inggris Raya, yang sangat dinantikan, telah direvisi tanpa henti dan berulang kali ditangguhkan.
Kate, yang berusia 30 tahun, mendirikan kampanye #NotYourPorn pada 2019.
Satu tahun kemudian, aktivismenya berkontribusi memaksa situs pornografi Porhub menghapus semua video yang diunggah oleh pengguna yang belum terverifikasi, yang merupakan mayoritas dari konten-konten di situs itu.
Kate berasumsi siapa pun yang berada di balik video deepfake-nya merasa terganggu oleh kampanye yang dia lakukan. Sebab, dia telah merenggut konten porno mereka.
Namun Kate tidak tahu siapa persisnya orang itu, atau siapa saja yang mungkin telah melihat video itu.
Meski dia bisa memastikan bahwa wajahnya telah diedit ke rekaman artis porno, video itu cukup meyakinkan sehingga Kate khawatir orang lain mungkin tidak menyadari bahwa itu pemalsuan.
Itu adalah pelanggaran, identitas saya digunakan dengan cara yang tidak saya setujui.
Di bawah video itu, orang-orang meninggalkan komentar mengerikan yang mengatakan bahwa mereka akan menguntit Kate pulang, memperkosanya, merekamnya dan mempublikasikannya di internet.
Saya mulai memikirkan keluarga saya, katanya sambil menahan air mata. Bagaimana perasaan mereka kalau melihat konten ini?
Ancaman meningkat ketika alamat rumah dan kantor Kate juga dipublikasikan di bawah video, sebuah praktik yang disebut doxing.
Saya menjadi benar-benar paranoid Siapa yang tahu alamat saya? Apakah seseorang yang saya kenal yang melakukan ini?
Saya berpikir, Saya benar-benar dalam masalah, ini bukan cuma beberapa orang di internet yang berbicara, ada bahaya yang benar-benar nyata.
Dari pengalamannya membantu orang lain menghadapi situasi serupa, Kate tahu persis apa yang harus dilakukan apabila seseorang menjadi korban. Namun pada saat itu, dia membeku.
Saya tidak melakukan saran dan nasehat saya sendiri, katanya.
Kate sang juru kampanye adalah sosok yang kuat dan tidak menunjukkan kerentanannya, lalu kemudian ada sosok saya sendiri juga, Kate, yang benar-benar ketakutan.
Seorang rekannya melaporkan video, komentar jahat, dan doxing itu ke Twitter sehingga semuanya dihapus.
Namun begitu deepfake telah dibagikan secara online, sulit untuk menghilangkan jejak peredarannya sepenuhnya.
Saya hanya ingin video itu lenyap dari internet, tapi tidak ada yang bisa saya lakukan untuk itu, kata Kate.
Apa yang harus dilakukan apabila Anda menjadi korban deepfake?
- Kumpulkan bukti. Meski ini mungkin terasa bertentangan dengan intuisi dan Anda ingin semuanya dihapus, tetapi penting untuk mengunduh video itu dan mengambil tangkapan layar tanggal, waktu, nama pengguna, dan URL. Letakkan bukti-bukti itu di folder yang aman menggunakan kata sandi.
- Laporkan akun. Setelah Anda mengumpulkan bukti, laporkan apa yang terjadi kepada platform apa pun di tempat bukti itu muncul.
- Hubungi polisi. Penting untuk mencatat apa yang terjadi dan memberikan bukti-bukti yang telah Anda kumpulkan.
- Cari layanan bantuan. Di Indonesia, laporan kekerasan berbasis gender online (KBGO) bisa disampaikan ke Komnas Perempuan melalui nomor 021-3903963 dan 021-80305399. Kementerian Pemberdayaan Perempuan dan Perlindungan Anak juga menyediakan layanan call center Sahabat Perempuan dan Anak (SAPA) pada nomor 129 atau Whatsapp di nomor 08111129129.
Sumber: Kampanye #NotYourPorn, Komnas Perempuan, dan Kementerian PPPA.
Ada pasar tersendiri untuk deepfake di forum-forum online. Orang-orang mengunggah permintaan untuk membuat video mengenai istri, tetangga, rekan kerja, bahkan yang tidak terduga dari ibu, anak perempuan, serta sepupu mereka.
Pembuat konten kemudian meresponsnya dengan petunjuk langkah demi langkah, sumber materi apa yang mereka butuhkan, saran mengenai sudut pengambilan gambar mana yang paling cocok, serta harga dari cara itu.
Seorang pembuat konten deepfake yang berbasis Inggris, Gorkem, berbicara kepada BBC secara anonim. Dia mulai membuat deepfake selebriti untuk kepuasannya sendiri. Teknik ini, kata dia, memungkinkan orang-orang mewujudkan fantasi mereka dengan cara yang benar-benar tidak mungkin sebelumnya.
Gorkem kemudian beralih melakukan deepfaking kepada perempuan yang membuatnya tertarik, termasuk rekan kerjanya yang hampir tidak dia kenal.
Yang satu sudah menikah, yang lainnya dalam hubungan pacaran, kata Gorkem.
Pergi bekerja setelah memalsukan perempuan-perempuan ini memang terasa aneh, tetapi saya berusaha tetap tenang. Saya bertindak seolah tidak ada apa-apa, tidak akan ada yang curiga.
Setelah menyadari bahwa dia bisa menghasilkan uang dari hobinya, Gorkem mulai membuka komisi untuk membuat deepfake. Dia mengumpulkan cuplikan gambar dari media sosial para perempuan, yang memberinya banyak bahan.
Baru-baru ini, dia bahkan memalsukan seorang perempuan menggunakan rekaman dari panggilan Zoom.
Dengan jumlah video yang cukup, melihat langsung ke kamera, itu bahan yang bagus untuk saya. Setelahnya algoritme dapat memperkirakan dari situ dan membuat rekonstruksi wajah yang bagus pada video yang dituju.
Dia menyadari bahwa beberapa perempuan dapat dirugikan secara psikologis karena dipalsukan seperti itu, namun dia tampak tidak peduli dengan dampak itu dari caranya mengobjektifikasi mereka.
Mereka hanya bisa mengatakan, Ini bukan saya, ini dipalsukan. Mereka seharusnya bisa mengetahui itu dan melanjutkan hari mereka.
Dari sudut pandang moral, saya rasa tidak ada yang akan menghentikan saya, kata Gorkem.
Jika saya akan menghasilkan uang dari komisi ini saya akan melakukannya, itu tidak masalah.
Standar deepfake bisa sangat bervariasi, tergantung pada keahlian orang yang membuat video dan kecanggihan teknologi yang digunakan.
Namun pria di balik situs porno deepfake terbesar mengakui bahwa tidak lagi mudah untuk mengetahui secara pasti apakah sebuah gambar dimanipulasi atau tidak.
Situsnya menarik sekitar 13 juta pengunjung per bulan dan menampung sekitar 20.000 video.
Dia berbasis di Amerika Serikat dan jarang berbicara kepada media, namun dia setuju untuk berbicara kepada BBC secara anonim.
Memalsukan perempuan biasa adalah batasan baginya, kata lelaki ini. Namun dalam pandangannya, menyediakan platform bagi video porno deepfake selebriti, pemengaruh media sosial dan politikus dapat dibenarkan.
Mereka terbiasa dengan media negatif, konten mereka tersedia di media arus utama. Mereka berbeda dengan warga biasa, kata dia.
Mereka bisa menghadapinya dengan cara yang berbeda, mereka bisa mengabaikannya. Saya rasa persejutuan mereka tidak diperlukan itu fantasi, tidak nyata.
Apakah dia berpikir yang dia lakukan salah? Di satu sisi dia menyangkal dampaknya terhadap perempuan, akunya. Tapi di sisi lain, dia mengatakan bahwa pasangannya tidak tahu apa yang dia lakukan untuk mencari nafkah.
Saya belum memberi tahu istri saya. Saya khawatir ini akan memengaruhinya."
Sampai baru-baru ini, perangkat lunak deepfake tidak tersedia dengan mudah. Mayoritas orang tidak memiliki keterampilan untuk membuatnya.
Tetapi sekarang, siapa pun yang berusia di atas 12 tahun dapat mengunduh puluhan aplikasi secara legal yang bisa membuat deepfake meyakinkan dalam beberapa klik.
Bagi Kate, situasi ini mengkhawatirkan dan sangat menakutkan.
Ini bukan lah situs gelap, ini ada di toko aplikasi tepat di hadapan kita.
Bagi Gorkem, apabila membuat deepfake termasuk tindak pidana, itu akan mengubah banyak hal.
"Jika saya dapat dilacak secara online, saya akan berhenti dan mungkin mencari hobi lain," kata dia.
Menjadi korban deepfake dan menghadapi doxing telah berdampak terhadap kesehatan Kate dan memengaruhi kemampuannya mempercayai orang lain.
Dia meyakini bahwa orang-orang di balik serangan ini tidak hanya mencoba mengintimidasi dan mempermalukannya, namun juga membungkamnya.
Selama beberapa waktu, dia sempat mundur dari kampanyenya dan mempertanyakan apakah dia bisa terus menyuarakan tentang misogini yang dihadapi perempuan.
Namun sekarang, dia lebih bersemangat melakukannya. Dia menyadari bahwa dia terlalu peduli untuk meninggalkan kampanye itu.
Saya tidak akan membiarkan mereka menang, kata Kate.
Deepfake dapat digunakan untuk mengontrol perempuan, dan perusahaan teknologi termasuk yang membuat aplikasi yang memungkinkan pertukaran wajahharus didorong untuk menerapkan perlindungan.
Aplikasi apa pun harus bisa mendeteksi konten seksual, tutur Kate.
Jika perusahaan tidak mengeluarkan uang, sumber daya, dan waktu untuk memastikan aplikasi mereka tidak disalahgunakan untuk membuat konten pelecehan seksual, maka mereka secara sengaja tidak bertanggung jawab. Mereka juga bersalah.
Gorkem dan orang di balik situs deepfake terbesar tidak diketahui terlibat dalam tindakan deepfake yang menimpa Kate Isaacs.
