Google vise les deepfakes explicites dans les résultats de recherche

Google vise les deepfakes explicites dans les résultats de recherche

Dans une démarche importante pour lutter contre la diffusion d'images explicites non consensuelles (NCEI), Google a annoncé de nouvelles mesures pour réprimer le deepfake porndans ses résultats de recherche. Le géant de la technologie's chef de produit, Emma Higham, a révélé que les récents ajustements apportés Google's Les algorithmes de classement ont déjà réduit l'exposition aux fausses images explicites de plus de 70 % pour les recherches ciblant des individus spécifiques.

Cette initiative fait suite à l'inquiétude croissante suscitée par les contenus explicites générés par l'IA , dont la prolifération est due à l'accessibilité accrue des outils de manipulation d'images. La nouvelle approche de Google vise à privilégier les articles de presse et les contenus informatifs sur les deepfakes plutôt que d'afficher directement les images problématiques.

Ce changement d'algorithme fait suite à une enquête de WIRED qui a mis en lumière la réticence antérieure de Google à mettre en œuvre les suggestions de ses équipes et d'experts pour lutter contre le problème des deepfakes explicites indésirables (NCEI). L'entreprise a désormais adopté une approche plus proactive, en étendant trois mesures clés, auparavant utilisées pour les deepfakes explicites indésirables, aux contenus synthétiques :

  1. Suppression des doublons d'images supprimées
  2. Filtrage des résultats explicites de requêtes similaires
  3. Rétrogradation de sites Web avec un volume élevé de demandes de retrait réussies

Ces changements sont conçus pour donner aux utilisateurs une « tranquillité d'esprit supplémentaire », en particulier ceux qui s'inquiètent de l'apparition future d'un contenu similaire, selon Higham.

Cette initiative s'inscrit dans le cadre des efforts déployés par l'industrie pour lutter contre le problème des deepfakes. Microsoft a récemment appelé le Congrès à créer une loi contre la fraude liée aux deepfakes, tandis que le conseil de surveillance de Meta a critiqué la gestion par l'entreprise des deepfakes explicites de personnalités publiques générés par l'IA.

Matériel d’abus sexuel d’enfants généré par l’IA

Malgré ces avancées positives, certains défenseurs des droits numériques estiment que Google pourrait aller plus loin. Par exemple, l'entreprise n'a pas mis en place de messages d'avertissement pour les recherches de deepfakes à caractère sexuel impliquant des adultes, similaires à ceux utilisés pour les recherches liées à l'exploitation d'enfants.

Face à l'évolution constante de la technologie des deepfakes, et alors que l'on estime à 8 millions le nombre de deepfakes qui devraient être partagés en ligne d'ici 2025, la nécessité de contrer efficacement ces phénomènes devient de plus en plus urgente. Les efforts récents de Google constituent un pas important dans la bonne direction, mais la lutte contre la diffusion non consensuelle d'images explicites demeure un défi permanent pour les entreprises technologiques et la société dans son ensemble.

L’impact de ces changements s’étend au-delà des préoccupations individuelles en matière de vie privée et touche aux questions de désinformation, de manipulation politique et d’intégrité des informations en ligne. Comme AI sans souci Avec les avancées technologiques, la frontière entre contenu réel et faux devient de plus en plus floue, soulignant l’importance de mesures proactives de la part des principales plateformes technologiques.

Google's répression contre deepfakes explicites marque une évolution cruciale dans la lutte actuelle pour maintenir la confiance et la sécurité à l’ère numérique. Alors que l'entreprise continue d'affiner son approche, l'industrie technologique et les décideurs politiques surveilleront de près comment ces mesures façonneront l'avenir du commerce en ligne. modération du contenu et AI gouvernance.

https://twitter.com/DrDataScientist/status/1818646445656084623

Laissez un commentaire

Votre adresse courriel n'apparaitra pas. Les champs obligatoires sont marqués *

Inscrivez-vous à la Aimojo Tribu!

Rejoignez plus de 76,000 XNUMX membres pour des conseils d'initiés chaque semaine ! 
🎁 BONUS: Obtenez notre 200 $ «AI « Boîte à outils de maîtrise » GRATUITE lors de votre inscription !

Tendances AI Outils
AI Anges

Construisez un personnel AI Une petite amie qui se souvient réellement de toi. Discussions privées, appels vocaux, fantasmes personnalisés. Adulte AI Une compagnie empreinte de souvenirs impérissables et d'une romance personnalisée.

OpenCode

Déployez plus rapidement un code fiable grâce à une solution flexible AI agents. Un seul agent de codage, des centaines de fournisseurs. Automatisation des dépôts open source sur l'ensemble des terminaux et des flux de travail de bureau.

scribbr

Polir les articles universitaires et repérer les erreurs de citation au plus tôt. Vérifiez les erreurs de citation avant la soumission finale. Relecture académique, vérification de l'originalité et gestion plus efficace des références.

Obtenir

Transformer plus rapidement des recherches universitaires complexes en informations crédibles et exploitables. Trouver des documents, extraire des preuves, générer des rapports. An AI Assistant de recherche conçu pour l'analyse des preuves scientifiques.

IA libérée

Transformez les conversations avec les patients en notes organisées sans avoir à rédiger des dossiers tard le soir. Une documentation clinique qui s'adapte à votre style. An AI Un assistant médical conçu pour les cabinets cliniques indépendants.

© Copyright 2023 - 2026 | Devenez un AI Pro | Fait avec ♥