
Dans une démarche importante pour lutter contre la diffusion d'images explicites non consensuelles (NCEI), Google a annoncé de nouvelles mesures pour réprimer le deepfake porndans ses résultats de recherche. Le géant de la technologie's chef de produit, Emma Higham, a révélé que les récents ajustements apportés Google's Les algorithmes de classement ont déjà réduit l'exposition aux fausses images explicites de plus de 70 % pour les recherches ciblant des individus spécifiques.
Cette initiative fait suite à l'inquiétude croissante suscitée par les contenus explicites générés par l'IA , dont la prolifération est due à l'accessibilité accrue des outils de manipulation d'images. La nouvelle approche de Google vise à privilégier les articles de presse et les contenus informatifs sur les deepfakes plutôt que d'afficher directement les images problématiques.
Ce changement d'algorithme fait suite à une enquête de WIRED qui a mis en lumière la réticence antérieure de Google à mettre en œuvre les suggestions de ses équipes et d'experts pour lutter contre le problème des deepfakes explicites indésirables (NCEI). L'entreprise a désormais adopté une approche plus proactive, en étendant trois mesures clés, auparavant utilisées pour les deepfakes explicites indésirables, aux contenus synthétiques :
- Suppression des doublons d'images supprimées
- Filtrage des résultats explicites de requêtes similaires
- Rétrogradation de sites Web avec un volume élevé de demandes de retrait réussies
Ces changements sont conçus pour donner aux utilisateurs une « tranquillité d'esprit supplémentaire », en particulier ceux qui s'inquiètent de l'apparition future d'un contenu similaire, selon Higham.
Cette initiative s'inscrit dans le cadre des efforts déployés par l'industrie pour lutter contre le problème des deepfakes. Microsoft a récemment appelé le Congrès à créer une loi contre la fraude liée aux deepfakes, tandis que le conseil de surveillance de Meta a critiqué la gestion par l'entreprise des deepfakes explicites de personnalités publiques générés par l'IA.

Malgré ces avancées positives, certains défenseurs des droits numériques estiment que Google pourrait aller plus loin. Par exemple, l'entreprise n'a pas mis en place de messages d'avertissement pour les recherches de deepfakes à caractère sexuel impliquant des adultes, similaires à ceux utilisés pour les recherches liées à l'exploitation d'enfants.
Face à l'évolution constante de la technologie des deepfakes, et alors que l'on estime à 8 millions le nombre de deepfakes qui devraient être partagés en ligne d'ici 2025, la nécessité de contrer efficacement ces phénomènes devient de plus en plus urgente. Les efforts récents de Google constituent un pas important dans la bonne direction, mais la lutte contre la diffusion non consensuelle d'images explicites demeure un défi permanent pour les entreprises technologiques et la société dans son ensemble.
L’impact de ces changements s’étend au-delà des préoccupations individuelles en matière de vie privée et touche aux questions de désinformation, de manipulation politique et d’intégrité des informations en ligne. Comme AI sans souci Avec les avancées technologiques, la frontière entre contenu réel et faux devient de plus en plus floue, soulignant l’importance de mesures proactives de la part des principales plateformes technologiques.
Google's répression contre deepfakes explicites marque une évolution cruciale dans la lutte actuelle pour maintenir la confiance et la sécurité à l’ère numérique. Alors que l'entreprise continue d'affiner son approche, l'industrie technologique et les décideurs politiques surveilleront de près comment ces mesures façonneront l'avenir du commerce en ligne. modération du contenu et AI gouvernance.


