Konten hoaks dan fenomena deepfake semakin merajalela di berbagai negara, menjadi ancaman serius terutama dengan kemajuan teknologi kecerdasan buatan (AI) yang semakin canggih dan kompleks. Pakar keamanan siber dan manajemen risiko digital dari Amerika Serikat, Melissa Hathaway, menyampaikan dampak buruk perkembangan AI ini dalam sebuah diskusi tentang integrasi kecerdasan buatan di Jakarta pada Selasa, 7 Mei 2024.
Melissa mengingatkan bahwa pengguna media sosial harus waspada dan tidak mudah terpengaruh oleh konten yang mereka lihat. Kemampuan untuk memilah dan menganalisis konten adalah kunci untuk menjaga diri dari paparan hoaks di media sosial. Menurutnya, banyak konten hoaks diproduksi dengan menggunakan AI untuk menarik perhatian pembaca.
Salah satu cara untuk memastikan kebenaran sebuah konten adalah dengan memeriksa sumber informasi yang dimuatnya. Konten hoaks yang diproduksi oleh AI biasanya tidak memiliki sumber yang jelas dan cenderung bersifat sensasional. Konten semacam ini paling banyak tersebar di platform seperti Facebook dan media sosial lainnya.
Melissa membandingkan upaya Amerika Serikat dalam memerangi hoaks dengan negara lain, mengatakan bahwa AS telah memiliki teknisi yang memadai untuk mengurangi konten disinformasi dan deepfake. Namun, upaya tersebut belum sepenuhnya berhasil mengatasi masalah ini.
Baca Juga: Serangan Siber Meningkat: Pemerintahan, Keuangan, TI, dan Industri Jadi Sasaran Utama
Menurut Melissa, penyebar deepfake dan konten hoaks seperti mengeksploitasi kerentanan psikologis korban. Pelaku menggunakan kecanggihan AI untuk menyesuaikan konten palsu mereka dengan preferensi pengguna media sosial. Hal ini dapat menyebabkan manipulasi dan kerusakan situasi akibat penyebaran informasi yang tidak akurat.
Melissa mendorong penguatan literasi media sosial untuk melawan paparan konten hoaks dan disinformasi. Dia juga menekankan perlunya regulasi yang tegas dari setiap negara untuk mengatasi fenomena ini.
Di sisi lain, staf Kementerian Komunikasi dan Informatika (Kominfo), Mediodecci Lustarini, menjelaskan bahwa AI memiliki kemampuan untuk mengetahui preferensi pengguna media sosial, yang dapat digunakan untuk mempersonalisasi konten. Namun, jika konten yang dipersonalisasi tersebut adalah hoaks, maka penyebaran disinformasi dapat semakin luas.
Indonesia sendiri sedang mengatur lebih detail mengenai cara mengatasi dampak buruk AI, namun saat ini masih dalam tahap pedoman etika dan regulasi. Lustarini menekankan pentingnya kajian yang mendalam untuk memetakan dampak buruk AI dan menanggapi ancaman yang dihadapi oleh kehidupan digital saat ini.
