Meta Menemukan Konten Penipuan yang Dihasilkan AI di Facebook dan Instagram

RIAU24.COM - Meta, perusahaan induk Facebook dan Instagram, mengumumkan pada hari Rabu bahwa mereka telah menemukan dan mengganggu kampanye disinformasi pada platformnya yang melibatkan konten kemungkinan yang dihasilkan AI.

Kampanye ini menampilkan pernyataan yang mendukung penanganan Israel terhadap konflik Gaza, yang tertanam dalam item berita dari organisasi global dan anggota kongres AS.

Meta menyatakan dalam laporan keamanan triwulanan terbarunya bahwa kampanye tersebut dilacak kembali ke STOIC, agen pemasaran politik yang berbasis di Tel Aviv.

Akun-akun tersebut menyamar sebagai mahasiswa Yahudi, Afrika-Amerika, dan warga negara lain yang peduli, dengan fokus pada audiens di Amerika Serikat dan Kanada.

Ini adalah pertama kalinya Meta mengungkapkan penggunaan teknologi AI generatif berbasis teks dalam operasi tersebut sejak diluncurkan pada akhir 2022.

Para peneliti khawatir tentang potensi AI generatif untuk meningkatkan kampanye disinformasi dan mempengaruhi pemilihan, karena dapat menghasilkan teks, gambar, dan audio seperti manusia dengan cepat dan murah.