
V rámci významného kroku v boji proti šíření nekonsensuálních explicitních snímků (NCEI) Google oznámil nová opatření k potlačení deepfake pornfotografie ve výsledcích vyhledávání. Technologický gigant's produktová manažerka Emma Highamová odhalila, že nedávné úpravy Google's Algoritmy pro hodnocení již snížily vystavení falešným explicitním obrázkům o více než 70 % u vyhledávání zaměřených na konkrétní osoby..
Tato iniciativa přichází v reakci na rostoucí obavy z explicitního obsahu generovaného umělou inteligencí , který zaznamenal nárůst kvůli rostoucí dostupnosti nástrojů pro manipulaci s obrázky. Nový přístup společnosti Google si klade za cíl upřednostňovat zpravodajské články a informativní obsah o deepfakes spíše než zobrazovat samotné problematické obrázky.
Tato změna algoritmů navazuje na vyšetřování serveru WIRED , které zdůraznilo předchozí neochotu společnosti Google implementovat návrhy zaměstnanců a expertů k řešení problému NCEI . Společnost nyní zaujala proaktivnější postoj a rozšířila tři klíčová opatření dříve používaná pro skutečné nežádoucí explicitní deepfaky i na syntetický obsah:
- Odstranění duplikátů sejmutých snímků
- Filtrování explicitních výsledků z podobných dotazů
- Snížení úrovně webů s velkým objemem úspěšných žádostí o odstranění
Tyto změny jsou navrženy tak, aby uživatelům poskytly „další klid“, zejména těm, kteří se obávají budoucího výskytu podobného obsahu, tvrdí Higham.
Tento krok je v souladu s širším úsilím odvětví o řešení problému deepfake. Microsoft nedávno vyzval Kongres k vytvoření „zákona o podvodech s deepfake“, zatímco dozorčí rada společnosti Meta kritizovala způsob, jakým společnost nakládá s explicitními deepfakey generovanými umělou inteligencí o veřejně známých osobnostech.

Navzdory těmto pozitivním krokům někteří zastánci tvrdí, že Google by mohl jít ještě dál. Společnost například neimplementovala varovné zprávy pro vyhledávání, která hledají sexuální deepfakey dospělých, podobné těm, které se používají pro vyhledávání související s obrázky zneužívání dětí.
S neustálým vývojem technologie deepfake, která má být do roku 2025 sdílena online odhadem 8 milionů deepfakeů, je potřeba robustních protiopatření stále naléhavější. Nejnovější úsilí společnosti Google představuje významný krok správným směrem, ale boj proti explicitním snímkům bez souhlasu zůstává pro technologické společnosti i společnost jako celek trvalou výzvou.
Dopad těchto změn přesahuje individuální zájmy o soukromí a dotýká se otázek dezinformací, politické manipulace a integrity online informací. Jak AI technika s pokrokem se hranice mezi skutečným a falešným obsahem stále více stírá, což podtrhuje důležitost proaktivních opatření ze strany hlavních technologických platforem.
Google's zátah na explicitní deepfakes představuje zásadní vývoj v neustálém boji o udržení důvěry a bezpečí v digitálním věku. Jak společnost pokračuje ve zdokonalování svého přístupu, technický průmysl a tvůrci politik budou bedlivě sledovat, jak tato opatření utvářejí budoucnost online moderování obsahu a AI vláda.


