Microsoft's Il motore di ricerca Bing ha stretto una partnership con StopNCII.org per affrontare la crescente minaccia delle immagini intime non consensuali (NCII) e AI Deepfake online. Questa collaborazione segna una pietra miliare significativa nel settore tecnologico.'s sforzi per proteggere gli individui, in particolare donne e ragazze, dall' impatti devastanti dell'abuso dell'immagine intima.
Microsoft's Partnership strategica con StopNCII
StopNCII.org, gestito dall'organizzazione benefica britannica SWGfL, utilizza una tecnologia innovativa che consente agli utenti di creare impronte digitali o " hash " delle proprie immagini intime senza dover caricare i contenuti originali. Questi hash vengono poi condivisi con le aziende partecipanti per individuare e rimuovere le immagini dai loro servizi. L'integrazione di questo sistema in Bing da parte di Microsoft rende quest'ultimo il primo motore di ricerca ad aderire all'iniziativa.
La collaborazione ha già dato risultati promettenti. Entro la fine di agosto, Microsoft era intervenuta su 268,899 immagini segnalate tramite il database StopNCII , impedendone la visualizzazione nei risultati di ricerca immagini di Bing . Questo approccio incentrato sulla vittima risponde alla preoccupazione che la sola segnalazione da parte degli utenti possa non essere sufficientemente diffusa o inadeguata a contrastare il rischio di accesso non autorizzato alle immagini tramite i motori di ricerca.
L'impegno di Microsoft va oltre questa partnership. L'azienda ha implementato una politica completa che vieta la condivisione o la creazione di immagini intime senza consenso su tutti i suoi servizi. Ha inoltre introdotto un portale di segnalazione centralizzato che consente agli utenti di richiedere la rimozione di contenuti contenenti immagini intime non autorizzate e opzioni di segnalazione integrate nei prodotti per determinati servizi come i giochi e Bing.
La crescente minaccia dei deepfake
L'aumento dei deepfake generati dall'intelligenza artificiale ha amplificato l'urgenza di affrontare la NCII. Microsoft riconosce che IA generativa tecnologie potrebbero potenzialmente esacerbare il danno causato dall'abuso di immagini intime. In risposta, l'azienda ha implementato misure per impedire la creazione di contenuto sessualmente esplicito attraverso la sua AI servizi.
Questa iniziativa è in linea con Microsoft's sforzi più ampi per contrastare i deepfake e la disinformazione legati alle elezioni. L'azienda si è impegnata a contribuire alla prevenzione di falsificazioni AI contenuti che interferiscano con le elezioni globali del 2024. Microsoft prevede di lanciare una campagna di sensibilizzazione pubblica negli Stati Uniti incoraggiando gli elettori a essere vigili contro la manipolazione dei deepfake, promuovendo un "Controlla, ricontrolla e vota" approccio.
Mentre la minaccia dei deepfake continua a evolversi, Microsoft sta sostenendo cambiamenti normativi e legislativi per scoraggiare i malintenzionati e garantire giustizia alle vittime. L'azienda si è unita a un nuovo gruppo di lavoro multistakeholder incentrato sullo sviluppo di best practice per combattere la NCII.
Questa partnership tra Microsoft Bing e StopNCII.org rappresenta un significativo passo avanti nella lotta contro gli abusi e la disinformazione online. Sfruttando tecnologie avanzate e promuovendo la collaborazione all'interno del settore tecnologico, Microsoft sta definendo un nuovo standard per la protezione della privacy degli utenti e il contrasto alla diffusione di contenuti dannosi online.
BONUS: Ottieni i nostri 200$ "AI "Mastery Toolkit" GRATIS se ti registri!
