Google Menyasarkan Deepfakes Eksplisit dalam Hasil Carian

Dalam langkah penting untuk memerangi penyebaran imejan eksplisit tanpa persetujuan (NCEI), Google telah mengumumkan langkah baharu untuk membanteras deepfake pornografi dalam hasil cariannya. Gergasi teknologi's pengurus produk, Emma Higham, mendedahkan bahawa pelarasan baru-baru ini kepada Google's algoritma kedudukan telah pun mengurangkan pendedahan kepada imej eksplisit palsu sebanyak lebih 70% untuk carian yang menyasarkan individu tertentu.

Inisiatif itu datang sebagai tindak balas kepada kebimbangan yang semakin meningkat Kandungan eksplisit yang dijana AI, yang telah menyaksikan lonjakan disebabkan peningkatan kebolehcapaian alat manipulasi imej. Google's pendekatan baharu bertujuan untuk mengutamakan artikel berita dan kandungan bermaklumat tentang deepfakes daripada memaparkan imej bermasalah itu sendiri.

Anjakan algoritma ini mengikuti a Siasatan berwayar yang menyerlahkan Google's keengganan sebelum ini untuk melaksanakan cadangan kakitangan dan pakar untuk menangani isu NCEI. Syarikat itu kini telah mengambil sikap yang lebih proaktif, melanjutkan tiga langkah utama yang sebelum ini digunakan untuk pemalsuan eksplisit nyata yang tidak diingini kepada kandungan sintetik:

1. Mengalih keluar pendua imej yang dialih keluar
2. Menapis hasil eksplisit daripada pertanyaan serupa
3. Menurunkan taraf tapak web dengan jumlah permintaan alih keluar yang berjaya

Perubahan ini direka untuk memberi pengguna "menambah ketenangan fikiran," terutamanya mereka yang bimbang tentang kejadian masa depan kandungan serupa, menurut Higham.

Langkah itu sejajar dengan usaha industri yang lebih luas untuk menangani cabaran deepfake. Microsoft baru-baru ini menyeru Kongres untuk mencipta "statut penipuan yang mendalam," manakala Meta's lembaga pengawasan mengkritik syarikat itu's pengendalian eksplisit yang dijana AI palsu tokoh awam.

Walaupun langkah-langkah positif ini, sesetengah penyokong berpendapat bahawa Google boleh pergi lebih jauh. Sebagai contoh, syarikat itu tidak melaksanakan mesej amaran untuk carian yang mencari palsu seksual orang dewasa, sama seperti yang digunakan untuk carian yang berkaitan dengan imej eksploitasi kanak-kanak.

Memandangkan teknologi deepfake terus berkembang, dengan anggaran 8 juta deepfake dijangka dikongsi dalam talian menjelang 2025, keperluan untuk tindakan balas yang teguh menjadi semakin mendesak. Google's usaha terkini mewakili langkah penting ke arah yang betul, tetapi perjuangan menentang eksplisit bukan konsensual imejan kekal sebagai cabaran berterusan untuk syarikat teknologi dan masyarakat secara amnya.

Kesan daripada perubahan ini melangkaui kebimbangan privasi individu, menyentuh isu maklumat salah, manipulasi politik dan integriti maklumat dalam talian. Sebagai AI teknologi kemajuan, garis antara kandungan sebenar dan palsu menjadi semakin kabur, menekankan kepentingan langkah proaktif oleh platform teknologi utama.

Google's tindakan keras terhadap deepfakes yang jelas menandakan perkembangan penting dalam perjuangan berterusan untuk mengekalkan kepercayaan dan keselamatan dalam era digital. Memandangkan syarikat terus memperhalusi pendekatannya, industri teknologi dan penggubal dasar akan memerhati dengan teliti untuk melihat bagaimana langkah ini membentuk masa depan dalam talian kesederhanaan kandungan dan AI tadbir urus.