Ancaman Video Porno Deepfake AI Meresahkan Warga

Ancaman Video Porno Deepfake AI Meresahkan Warga. Deepfake, teknologi yang memungkinkan pembuatan video palsu menggunakan kecerdasan buatan (artificial intelligence/AI), telah menciptakan kehebohan di Amerika Serikat. Politisi AS mulai membahas isu ini secara intensif setelah munculnya kasus kontroversial yang melibatkan seorang perempuan di California.

Menurut laporan Politico, anggota DPR dan Senat AS semakin tertarik untuk mengkaji masalah deepfake setelah adanya insiden pembuatan video porno palsu yang melibatkan seorang perempuan berusia 27 tahun di California. Kasus ini menyoroti potensi penyalahgunaan teknologi AI dalam pembuatan video yang menampilkan tindakan tidak senonoh tanpa izin korban.

Dalam kejadian tersebut, seorang pria yang ajakannya ditolak oleh perempuan tersebut membuat video deepfake yang menampilkan perempuan tersebut dalam adegan yang tidak senonoh bersamanya. Video tersebut kemudian disebarluaskan di media sosial oleh sang pria. Perempuan tersebut merasa tidak berdaya karena video tersebut, meskipun palsu, tidak melanggar hukum. Akibatnya, ia terpaksa menghapus semua akun media sosialnya dan mencari bantuan dari LSM kekerasan seksual bernama SVPA.

Kasus ini membuat politisi di Washington DC semakin sadar akan bahaya deepfake, bahkan melebihi kasus-kasus deepfake yang melibatkan sosok terkenal seperti Taylor Swift dan Perdana Menteri Italia Giorgia Meloni.

Perempuan korban yang tidak disebutkan namanya kepada Politico mengungkapkan trauma yang dialaminya, menekankan bahwa pelaku pembuat deepfake seharusnya bertanggung jawab atas tindakannya.

Omny Miranda Martone dari SVPA menjelaskan bahwa pengaduan mengenai penyalahgunaan AI semakin bertambah seiring dengan perkembangan teknologi deepfake. Dia mengungkapkan bahwa sebelumnya diperlukan ratusan foto korban dan perangkat teknologi yang canggih untuk membuat video palsu, tetapi sekarang hanya diperlukan satu atau dua foto.

LSM SVPA telah melakukan upaya lobi ke 100 anggota kongres pada tahun lalu untuk menghukum pembuat deepfake tanpa izin. Namun, sebagian anggota DPR dan Senat AS masih ragu-ragu untuk membuat aturan baru terkait AI karena tekanan dari perusahaan AI yang melakukan lobi aktif di Kongres AS.

Pemimpin Mayoritas di Senat, Chuck Schumer, baru-baru ini mengumumkan rencana regulasi AI yang juga menyinggung masalah deepfake dan privasi. Meskipun demikian, rencana tersebut tidak memberikan aturan yang spesifik. Sebaliknya, RUU tersebut mengalokasikan dana miliaran dolar AS untuk penelitian dan pengembangan AI.

Dengan kekhawatiran yang semakin meningkat terhadap deepfake, politisi AS berada di persimpangan jalan yang sulit: bagaimana mengatur teknologi yang berkembang pesat ini tanpa menghambat inovasi, sambil tetap melindungi masyarakat dari potensi penyalahgunaan yang merugikan.