Google vise les deepfakes explicites dans les résultats de recherche

Dans une démarche importante pour lutter contre la diffusion d'images explicites non consensuelles (NCEI), Google a annoncé de nouvelles mesures pour réprimer le deepfake porndans ses résultats de recherche. Le géant de la technologie's chef de produit, Emma Higham, a révélé que les récents ajustements apportés Google's Les algorithmes de classement ont déjà réduit l'exposition aux fausses images explicites de plus de 70 % pour les recherches ciblant des individus spécifiques.

Cette initiative répond à l'inquiétude croissante concernant Contenu explicite généré par l'IA, qui a connu une forte croissance en raison de l'accessibilité croissante des outils de manipulation d'images.'s La nouvelle approche vise à donner la priorité aux articles d’actualité et au contenu informatif sur les deepfakes plutôt qu’à afficher les images problématiques elles-mêmes.

Ce changement algorithmique fait suite à un Enquête FILAIRE qui a mis en évidence Google's réticence antérieure à mettre en œuvre les suggestions du personnel et des experts pour résoudre le problème du NCEI. La société a désormais adopté une position plus proactive, en étendant au contenu synthétique trois mesures clés précédemment utilisées pour les deepfakes explicites et indésirables :

1. Suppression des doublons d'images supprimées
2. Filtrage des résultats explicites de requêtes similaires
3. Rétrogradation de sites Web avec un volume élevé de demandes de retrait réussies

Ces changements sont conçus pour donner aux utilisateurs une « tranquillité d'esprit supplémentaire », en particulier ceux qui s'inquiètent de l'apparition future d'un contenu similaire, selon Higham.

Cette décision s’aligne sur les efforts plus larges de l’industrie pour relever le défi du deepfake. Microsoft a récemment appelé le Congrès à créer une « loi sur la fraude deepfake », tandis que Meta's le conseil de surveillance a critiqué l'entreprise's gestion des données explicites générées par l'IA deepfakes de personnalités publiques.

Malgré ces avancées positives, certains défenseurs estiment que Google pourrait aller plus loin. Par exemple, la société n’a pas mis en place de messages d’avertissement pour les recherches recherchant des deepfakes sexuels d’adultes, similaires à ceux utilisés pour les recherches liées à Images d’exploitation des enfants.

Alors que la technologie deepfake continue d'évoluer, avec environ 8 millions de deepfakes qui devraient être partagés en ligne d'ici 2025, le besoin de contre-mesures robustes devient de plus en plus urgent.'s Les derniers efforts représentent un pas important dans la bonne direction, mais la bataille contre explicite non consensuel l’imagerie reste un défi permanent pour les entreprises technologiques et la société dans son ensemble.

L’impact de ces changements s’étend au-delà des préoccupations individuelles en matière de vie privée et touche aux questions de désinformation, de manipulation politique et d’intégrité des informations en ligne. Comme AI sans souci Avec les avancées technologiques, la frontière entre contenu réel et faux devient de plus en plus floue, soulignant l’importance de mesures proactives de la part des principales plateformes technologiques.

Google's répression contre deepfakes explicites marque une évolution cruciale dans la lutte actuelle pour maintenir la confiance et la sécurité à l’ère numérique. Alors que l'entreprise continue d'affiner son approche, l'industrie technologique et les décideurs politiques surveilleront de près comment ces mesures façonneront l'avenir du commerce en ligne. modération du contenu et AI gouvernance.