In una mossa significativa per combattere la diffusione di immagini esplicite non consensuali (NCEI), Google ha annunciato nuove misure per reprimere il deepfake pornografia nei suoi risultati di ricerca. Il gigante della tecnologia's la responsabile del prodotto, Emma Higham, ha rivelato che i recenti aggiustamenti Google's Gli algoritmi di ranking hanno già ridotto l'esposizione a immagini false ed esplicite di oltre il 70% per le ricerche mirate a individui specifici.
L'iniziativa nasce in risposta alla crescente preoccupazione nei confronti Contenuti espliciti generati dall'intelligenza artificiale, che ha visto un'impennata dovuta alla crescente accessibilità degli strumenti di manipolazione delle immagini. Google's Il nuovo approccio mira a dare priorità agli articoli di notizie e ai contenuti informativi sui deepfake anziché mostrare le immagini problematiche stesse.
Questo spostamento algoritmico segue a Indagine WIRED che ha evidenziato Google's precedente riluttanza ad attuare i suggerimenti del personale e degli esperti per affrontare il problema NCEI. L'azienda ha ora assunto una posizione più proattiva, estendendo ai contenuti sintetici tre misure chiave precedentemente utilizzate per i veri e propri deepfake espliciti indesiderati:
- Rimozione dei duplicati delle immagini rimosse
- Filtraggio di risultati espliciti da query simili
- Retrocessione dei siti Web con volumi elevati di richieste di rimozione riuscite
Secondo Higham, questi cambiamenti sono progettati per offrire agli utenti “maggiore tranquillità”, in particolare quelli preoccupati per il futuro verificarsi di contenuti simili.
La mossa si allinea con gli sforzi più ampi del settore per affrontare la sfida del deepfake. Microsoft ha recentemente chiesto al Congresso di creare uno “statuto sulla frode deepfake”, mentre Meta's il consiglio di sorveglianza ha criticato l'azienda's gestione di informazioni esplicite generate dall'IA deepfake di personaggi pubblici.
Nonostante questi passi positivi, alcuni sostenitori sostengono che Google potrebbe andare oltre. Ad esempio, l'azienda non ha implementato messaggi di avviso per le ricerche che cercano deepfake sessuali di adulti, simili a quelli utilizzati per le ricerche relative a immagini di sfruttamento minorile.
Con la continua evoluzione della tecnologia deepfake, con una stima di 8 milioni di deepfake condivisi online entro il 2025, la necessità di contromisure efficaci diventa sempre più urgente. Google's gli ultimi sforzi rappresentano un passo significativo nella giusta direzione, ma la battaglia contro esplicito non consensuale le immagini rimangono una sfida continua per le aziende tecnologiche e la società in generale.
L’impatto di questi cambiamenti si estende oltre le preoccupazioni individuali sulla privacy, toccando questioni di disinformazione, manipolazione politica e integrità delle informazioni online. COME AI la tecnologia progressi, il confine tra contenuti reali e falsi diventa sempre più sfumato, sottolineando l’importanza di misure proattive da parte delle principali piattaforme tecnologiche.
Google's giro di vite su deepfake espliciti segna uno sviluppo cruciale nella continua lotta per mantenere la fiducia e la sicurezza nell’era digitale. Mentre l’azienda continua a perfezionare il proprio approccio, l’industria tecnologica e i politici osserveranno attentamente per vedere come queste misure plasmeranno il futuro dell’online. moderazione dei contenuti and AI la governance.
BONUS: Ottieni i nostri 200$ "AI "Mastery Toolkit" GRATIS se ti registri!
