Google Membidik Deepfake Eksplisit dalam Hasil Pencarian

Dalam langkah signifikan untuk memerangi penyebaran gambar eksplisit nonkonsensual (NCEI), Google telah mengumumkan langkah-langkah baru untuk menindak deepfake pornografi dalam hasil pencariannya. Raksasa teknologi tersebut's Manajer produk, Emma Higham, mengungkapkan bahwa penyesuaian baru-baru ini Google's Algoritma pemeringkatan telah mengurangi paparan terhadap gambar eksplisit palsu hingga lebih dari 70% untuk pencarian yang menargetkan individu tertentu.

Inisiatif ini muncul sebagai respons terhadap meningkatnya kekhawatiran atas konten eksplisit yang dihasilkan oleh AI , yang mengalami peningkatan pesat karena semakin mudahnya akses terhadap alat manipulasi gambar. Pendekatan baru Google bertujuan untuk memprioritaskan artikel berita dan konten informatif tentang deepfake daripada menampilkan gambar-gambar bermasalah itu sendiri.

Pergeseran algoritma ini mengikuti investigasi WIRED yang menyoroti keengganan Google sebelumnya untuk menerapkan saran staf dan pakar dalam menangani masalah NCEI . Perusahaan kini telah mengambil sikap yang lebih proaktif, memperluas tiga langkah utama yang sebelumnya digunakan untuk deepfake eksplisit yang tidak diinginkan ke konten sintetis:

1. Menghapus duplikat gambar yang dihapus
2. Memfilter hasil eksplisit dari kueri serupa
3. Menurunkan situs web dengan permintaan penghapusan yang berhasil dalam jumlah besar

Perubahan ini dirancang untuk memberikan “ketenangan pikiran tambahan” kepada pengguna, terutama mereka yang khawatir akan kemunculan konten serupa di masa mendatang, menurut Higham.

Langkah ini sejalan dengan upaya industri yang lebih luas untuk mengatasi tantangan deepfake. Microsoft baru-baru ini meminta Kongres untuk membuat "undang-undang penipuan deepfake," sementara dewan pengawas Meta mengkritik penanganan perusahaan terhadap deepfake eksplisit yang dihasilkan AI dari tokoh publik.

Terlepas dari langkah-langkah positif ini, beberapa pendukung berpendapat bahwa Google dapat melangkah lebih jauh. Misalnya, perusahaan tersebut belum menerapkan pesan peringatan untuk pencarian yang menampilkan deepfake seksual orang dewasa, serupa dengan yang digunakan untuk pencarian terkait gambar eksploitasi anak.

Seiring dengan terus berkembangnya teknologi deepfake, dengan perkiraan 8 juta deepfake akan dibagikan secara online pada tahun 2025, kebutuhan akan tindakan penanggulangan yang kuat menjadi semakin mendesak. Upaya terbaru Google merupakan langkah signifikan ke arah yang benar, tetapi pertempuran melawan gambar eksplisit tanpa persetujuan tetap menjadi tantangan berkelanjutan bagi perusahaan teknologi dan masyarakat luas.

Dampak dari perubahan ini tidak hanya mencakup permasalahan privasi individu, namun juga mencakup isu misinformasi, manipulasi politik, dan integritas informasi online. Sebagai AI teknologi Dengan kemajuan ini, batasan antara konten asli dan palsu menjadi semakin kabur, hal ini menunjukkan pentingnya tindakan proaktif yang dilakukan oleh platform teknologi besar.

Google's penumpasan deepfake yang eksplisit menandai perkembangan penting dalam perjuangan berkelanjutan untuk menjaga kepercayaan dan keamanan di era digital. Ketika perusahaan terus menyempurnakan pendekatannya, industri teknologi dan pembuat kebijakan akan mencermati bagaimana langkah-langkah ini membentuk masa depan dunia online. moderasi konten ke AI pemerintahan.