Google richt zich op expliciete deepfakes in zoekresultaten

In een belangrijke stap om de verspreiding van expliciete beelden zonder wederzijdse toestemming (NCEI) te bestrijden, heeft Google nieuwe maatregelen aangekondigd om deepfake aan te pakken pornography in zijn zoekresultaten. De techgigant's productmanager Emma Higham onthulde dat recente aanpassingen aan Google's Rankingalgoritmen hebben de blootstelling aan nep-expliciete afbeeldingen al met meer dan 70% verminderd voor zoekopdrachten die op specifieke personen zijn gericht.

Het initiatief komt als reactie op de groeiende bezorgdheid over Door AI gegenereerde expliciete inhoud, die een enorme groei heeft doorgemaakt door de toenemende toegankelijkheid van hulpmiddelen voor beeldmanipulatie. Google's Nieuwe aanpak richt zich op het prioriteren van nieuwsartikelen en informatieve content over deepfakes in plaats van het tonen van de problematische afbeeldingen zelf.

Deze algoritmische verschuiving volgt op a BEDRAAD onderzoek die Google benadrukte's eerdere terughoudendheid om suggesties van personeel en deskundigen voor het aanpakken van het NCEI-probleem te implementeren. Het bedrijf heeft nu een proactievere houding aangenomen en drie belangrijke maatregelen die eerder werden gebruikt voor echt ongewenste expliciete deepfakes uitgebreid naar synthetische inhoud:

1. Duplicaten van verwijderde afbeeldingen verwijderen
2. Expliciete resultaten van vergelijkbare zoekopdrachten filteren
3. Het degraderen van websites met een groot aantal succesvolle verwijderingsverzoeken

Deze veranderingen zijn bedoeld om gebruikers “meer gemoedsrust te geven”, vooral degenen die zich zorgen maken over toekomstige soortgelijke inhoud, aldus Higham.

Deze stap sluit aan bij bredere inspanningen van de industrie om de deepfake-uitdaging aan te pakken. Microsoft heeft het Congres onlangs opgeroepen een 'deepfake-fraudewet' op te stellen, terwijl Meta's toezichthoudende raad bekritiseerde het bedrijf's verwerking van door AI gegenereerde expliciete deepfakes van publieke figuren.

Ondanks deze positieve stappen beweren sommige voorstanders dat Google verder zou kunnen gaan. Het bedrijf heeft bijvoorbeeld geen waarschuwingsberichten geïmplementeerd voor zoekopdrachten naar seksuele deepfakes van volwassenen, vergelijkbaar met de berichten die worden gebruikt voor zoekopdrachten gerelateerd aan beelden van kinderuitbuiting.

Naarmate de deepfake-technologie zich blijft ontwikkelen en naar verwachting tegen 8 zo'n 2025 miljoen deepfakes online worden gedeeld, wordt de behoefte aan robuuste tegenmaatregelen steeds urgenter. Google's De laatste inspanningen vormen een belangrijke stap in de goede richting, maar de strijd tegen niet-consensuele expliciet beeldmateriaal blijft een voortdurende uitdaging voor technologiebedrijven en de samenleving als geheel.

De impact van deze veranderingen reikt verder dan individuele privacykwesties en raakt kwesties als desinformatie, politieke manipulatie en de integriteit van online-informatie. Als AI technologie Door de vooruitgang wordt de grens tussen echte en nep-inhoud steeds vager, wat het belang van proactieve maatregelen van grote technologieplatforms onderstreept.

Google's hardhandig optreden tegen expliciete deepfakes markeert een cruciale ontwikkeling in de voortdurende strijd om het vertrouwen en de veiligheid in het digitale tijdperk te behouden. Terwijl het bedrijf zijn aanpak blijft verfijnen, zullen de technologiesector en beleidsmakers nauwlettend in de gaten houden hoe deze maatregelen de toekomst van online vormgeven. inhoud modereren en AI bestuur.