Într-o mișcare semnificativă de combatere a răspândirii imaginilor explicite neconsensuale (NCEI), Google a anunțat noi măsuri de combatere a deepfake-ului pornografie în rezultatele căutării. Gigantul tehnologic's managerul de produs, Emma Higham, a dezvăluit că ajustările recente ale Google's algoritmii de clasificare au redus deja expunerea la imagini explicite false cu peste 70% pentru căutările care vizează anumite persoane.
Inițiativa vine ca răspuns la îngrijorarea tot mai mare Conținut explicit generat de inteligență artificială, care a cunoscut o creștere datorită accesibilității tot mai mari a instrumentelor de manipulare a imaginilor. Google's Noua abordare își propune să acorde prioritate articolelor de știri și conținutului informativ despre deepfake-uri, mai degrabă decât să afișeze imaginile problematice în sine.
Această schimbare algoritmică urmează a Investigație WIRED care a evidențiat Google's reticența anterioară de a implementa sugestiile personalului și ale experților pentru abordarea problemei NCEI. Compania a adoptat acum o atitudine mai proactivă, extinzând trei măsuri cheie utilizate anterior pentru deepfake-urile explicite nedorite la conținut sintetic:
- Eliminarea duplicatelor imaginilor eliminate
- Filtrarea rezultatelor explicite din interogări similare
- Retrogradarea site-urilor web cu un volum mare de solicitări de eliminare cu succes
Aceste modificări sunt concepute pentru a oferi utilizatorilor „liniște sufletească suplimentară”, în special celor îngrijorați de aparițiile viitoare ale conținutului similar, potrivit Higham.
Mișcarea se aliniază cu eforturile mai largi ale industriei de a aborda provocarea deepfake. Microsoft a cerut recent Congresului să creeze o „lege privind frauda deepfake”, în timp ce Meta's Consiliul de supraveghere a criticat compania's gestionarea informațiilor explicite generate de inteligența artificială deepfakes ale personalităților publice.
În ciuda acestor pași pozitivi, unii susținători susțin că Google ar putea merge mai departe. De exemplu, compania nu a implementat mesaje de avertizare pentru căutările care caută falsuri sexuale profunde ale adulților, similare cu cele utilizate pentru căutările legate de imagini de exploatare a copiilor.
Pe măsură ce tehnologia deepfake continuă să evolueze, cu aproximativ 8 milioane de deepfake-uri care se așteaptă să fie partajate online până în 2025, nevoia de contramăsuri robuste devine din ce în ce mai urgentă. Google's ultimele eforturi reprezintă un pas semnificativ în direcția corectă, dar lupta împotriva explicit neconsensual imaginile rămân o provocare continuă pentru companiile de tehnologie și pentru societate în general.
Impactul acestor schimbări se extinde dincolo de preocupările individuale privind confidențialitatea, atingând problemele de dezinformare, manipularea politică și integritatea informațiilor online. La fel de AI tehnologie progrese, linia dintre conținutul real și fals devine din ce în ce mai neclară, subliniind importanța măsurilor proactive de către platformele tehnologice majore.
Google's represiune deepfakes explicite marchează o dezvoltare crucială în lupta continuă pentru menținerea încrederii și siguranței în era digitală. Pe măsură ce compania continuă să-și perfecționeze abordarea, industria tehnologică și factorii de decizie politică vor urmări îndeaproape pentru a vedea cum aceste măsuri modelează viitorul online-ului. moderarea conținutului și AI guvernare.
BONUS: „Ia-ți cei 200 de dolari”AI „Mastery Toolkit” GRATUIT la înscriere!
