Google tar sikte på eksplisitte dypforfalskninger i søkeresultater

I et betydelig grep for å bekjempe spredningen av ikke-konsensuelle eksplisitte bilder (NCEI), har Google annonsert nye tiltak for å slå ned på deepfake pornografi i søkeresultatene sine. Teknologigiganten's produktsjef Emma Higham avslørte at nylige justeringer av Google's Rangeringsalgoritmer har allerede redusert eksponeringen for falske eksplisitte bilder med over 70 % for søk som er rettet mot bestemte individer..

Initiativet kommer som svar på den økende bekymringen over AI-generert eksplisitt innhold, som har sett en økning på grunn av den økende tilgjengeligheten til verktøy for bildemanipulering. Google's Den nye tilnærmingen tar sikte på å prioritere nyhetsartikler og informativt innhold om deepfakes i stedet for å vise frem de problematiske bildene i seg selv.

Dette algoritmiske skiftet følger a WIRED etterforskning som fremhevet Google's tidligere motvilje mot å implementere forslag fra ansatte og eksperter for å håndtere NCEI-problemet. Selskapet har nå inntatt en mer proaktiv holdning, og utvidet tre nøkkeltiltak som tidligere ble brukt for ekte uønsket eksplisitte deepfakes til syntetisk innhold:

1. Fjerner duplikater av tatt ned bilder
2. Filtrering av eksplisitte resultater fra lignende søk
3. Degradere nettsteder med store mengder vellykkede fjerningsforespørsler

Disse endringene er utformet for å gi brukere «økt trygghet», spesielt de som er bekymret for fremtidige forekomster av lignende innhold, ifølge Higham.

Flyttingen er i tråd med bredere bransjeinnsats for å møte deepfake-utfordringen. Microsoft oppfordret nylig Kongressen til å lage en «lov om deepfake-svindel», mens Meta's Tilsynsrådet kritiserte selskapet's håndtering av AI-generert eksplisitt dype forfalskninger av offentlige personer.

Til tross for disse positive trinnene, hevder noen talsmenn at Google kan gå lenger. For eksempel har selskapet ikke implementert advarselsmeldinger for søk som søker seksuelle deepfakes av voksne, lik de som brukes for søk relatert til bilder av utnyttelse av barn.

Etter hvert som deepfake-teknologien fortsetter å utvikle seg, med anslagsvis 8 millioner deepfakes som forventes å bli delt på nettet innen 2025, blir behovet for robuste mottiltak stadig mer presserende. Google's de siste tiltakene representerer et betydelig skritt i riktig retning, men kampen mot eksplisitt uten samtykke bilder er fortsatt en pågående utfordring for teknologiselskaper og samfunnet for øvrig.

Virkningen av disse endringene strekker seg utover individuelle personvernhensyn, og berører spørsmål om feilinformasjon, politisk manipulasjon og integriteten til nettinformasjon. Som AI teknologi fremskritt, blir grensen mellom ekte og falskt innhold stadig mer utydelig, noe som understreker viktigheten av proaktive tiltak fra store teknologiske plattformer.

Google's slå ned på eksplisitte deepfakes markerer en avgjørende utvikling i den pågående kampen for å opprettholde tillit og sikkerhet i den digitale tidsalderen. Ettersom selskapet fortsetter å forbedre sin tilnærming, vil teknologiindustrien og beslutningstakere følge nøye med for å se hvordan disse tiltakene former fremtiden for online innholdsmoderasjon og AI styresett.