Dampak Buruk AI : Manipulasi Video Jokowi
Dampak Buruk AI : Manipulasi Video Jokowi. Seiring dengan perkembangan teknologi Artificial Intelligence (AI), kekhawatiran akan penggantian pekerjaan manusia oleh otomatisasi menjadi salah satu isu utama. Namun, dampak buruk AI tidak hanya terbatas pada hal tersebut. Segudang risiko muncul jika penerapannya tidak diatur atau risikonya tidak dimitigasi dengan baik.
Menurut Sekretaris Jenderal Kementerian Komunikasi dan Informatika, Mira Tayyiba, insiden terkait AI terus meningkat. Berdasarkan data Stanford University dari 2012 hingga 2022, terjadi peningkatan sebanyak 26 kali dalam kasus penyebaran disinformasi yang dihasilkan oleh AI. Mira mengingatkan bahwa penyebaran disinformasi dapat disalahgunakan untuk memanipulasi opini publik, memicu perselisihan, dan akhirnya mengganggu pelayanan publik, ketertiban sosial, serta stabilitas ekonomi.
Sekretaris Jenderal Aplikasi Informatika Kementerian Komunikasi dan Informatika, I Nyoman Adhiarna, memberikan contoh konkret mengenai dampak buruk AI, yaitu melalui teknologi deepfake. Video Presiden Joko Widodo yang diubah menggunakan teknologi deepfake menjadi pidato dalam bahasa China adalah salah satu contohnya. Video tersebut disebarluaskan di kanal The U.S. – Indonesia Society (USINDO) pada 13 November 2015. Padahal, dalam kenyataannya, Presiden Jokowi tidak pernah menggunakan bahasa Mandarin saat berpidato.
Dampak dari disinformasi yang dihasilkan oleh AI menciptakan keraguan di masyarakat karena sulit membedakan informasi palsu (hoaks) dengan fakta sebenarnya. Adhiarna menekankan bahwa keberadaan disinformasi mengganggu ketertiban masyarakat dan menciptakan lingkungan digital yang tidak bersih serta tidak sehat.
Dalam konteks politik, menjelang pemilihan umum 2024, Adhiarna mengingatkan pentingnya menjaga ruang digital agar tetap aman dan bersih. Ancaman dari teknologi AI terhadap integritas informasi dan stabilitas masyarakat memerlukan tindakan preventif yang cermat untuk menjaga keamanan dan kualitas informasi yang tersebar di ranah digital.
