RIAU24.COM - Australia mengambil langkah-langkah untuk mencegah pembagian materi pelecehan seksual anak yang dihasilkan oleh kecerdasan buatan (AI) dalam hasil mesin pencari.

Regulator internet negara itu, Komisaris e-Safety Julie Inman Grant, pada hari Jumat, mengumumkan bahwa negara itu sekarang akan membutuhkan mesin pencari untuk memastikan bahwa konten tersebut tidak sampai ke hasil pencarian.

Untuk melakukan ini, Australia telah mengembangkan kode baru bekerja sama dengan raksasa industri seperti Google dan Bing.

Kode baru Australia terhadap pornografi anak yang dihasilkan AI

Kode baru Australia, menurut Reuters, akan membantu memastikan bahwa mesin pencari mencegah pembagian materi pelecehan seksual anak yang dihasilkan AI. Ini juga akan membutuhkan perlindungan untuk mencegah fungsi AI mesin pencari menghasilkan versi sintetis (deepfake) dari konten tersebut dalam hasil pencarian.

“Pesatnya pertumbuhan teknologi AI generatif telah membuat banyak orang lengah," kata Inman Grant.

"Penggunaan AI generatif telah berkembang begitu cepat sehingga saya pikir itu membuat seluruh dunia lengah sampai tingkat tertentu," tambahnya.

Kode ini menggarisbawahi bagaimana lanskap peraturan dan hukum seputar platform internet berkembang untuk mengatasi tantangan yang ditimbulkan oleh konten hidup yang dihasilkan AI.

Mengutip Grant, Reuters melaporkan bahwa kode sebelumnya yang disusun oleh Google dan Bing tidak mencakup konten yang dihasilkan AI. Ini mendorongnya untuk meminta versi revisi yang secara khusus membahas masalah ini.

"Ketika pemain terbesar di industri mengumumkan bahwa mereka akan mengintegrasikan AI generatif ke dalam fungsi pencarian mereka, kami memiliki rancangan kode yang jelas tidak lagi sesuai untuk tujuan. Kami meminta industri untuk mencoba lagi," kata Inman Grant.

Praktik terbaik

Digital Industry Group Inc, sebuah organisasi advokasi Australia yang memiliki Google sebagai anggota, menyatakan kepuasan dengan persetujuan regulator terhadap kode baru.

Mereka menyoroti bahwa kode tersebut mencerminkan perkembangan terbaru dalam AI generatif dan menetapkan praktik terbaik untuk meningkatkan perlindungan komunitas.

"Kami bekerja keras untuk mencerminkan perkembangan terakhir dalam kaitannya dengan AI generatif, mengkodifikasi praktik terbaik untuk industri dan memberikan perlindungan masyarakat lebih lanjut," kata juru bicara itu.

Komisaris e-Safety Australia mendaftarkan kode keamanan untuk berbagai layanan internet, termasuk platform media sosial dan aplikasi smartphone awal tahun ini. Ini akan mulai berlaku pada akhir 2023.

Regulator dilaporkan juga bekerja pada pengembangan kode keamanan untuk penyimpanan internet dan layanan pesan pribadi.

Namun, menurut kantor berita, upaya ini telah menghadapi perlawanan dari pendukung privasi secara global.

(***)