Google mik na eksplisiete Deepfakes in soekresultate

In 'n beduidende stap om die verspreiding van nie-konsensuele eksplisiete beelde (NCEI) te bestry, het Google nuwe maatreëls aangekondig om diep vervalsing te bekamp. pornografie in sy soekresultate. Die tegnologiereus's produkbestuurder, Emma Higham, het onthul dat onlangse aanpassings aan Google's Rangskikkingsalgoritmes het reeds blootstelling aan vals eksplisiete beelde met meer as 70% verminder vir soektogte wat op spesifieke individue gemik is..

Die inisiatief kom in reaksie op die groeiende kommer oor KI-gegenereerde eksplisiete inhoud, wat 'n toename gesien het as gevolg van die toenemende toeganklikheid van beeldmanipulasie-instrumente. Google's Die nuwe benadering poog om nuusartikels en insiggewende inhoud oor diep vervalsings te prioritiseer eerder as om die problematiese beelde self te vertoon.

Hierdie algoritmiese verskuiwing volg op 'n WIRED-ondersoek wat Google uitgelig het's vorige huiwering om personeel- en kundige voorstelle vir die aanpak van die NCEI-kwessie te implementeerDie maatskappy het nou 'n meer proaktiewe standpunt ingeneem en drie sleutelmaatreëls wat voorheen vir werklike ongewenste eksplisiete diepnamaaksels gebruik is, na sintetiese inhoud uitgebrei:

1. Verwydering van duplikate van verwyderde beelde
2. Filtrering van eksplisiete resultate van soortgelyke navrae
3. Degradering van webwerwe met hoë volumes suksesvolle verwyderingsversoeke

Hierdie veranderinge is ontwerp om gebruikers "bykomende gemoedsrus" te gee, veral diegene wat bekommerd is oor toekomstige voorkomste van soortgelyke inhoud, volgens Higham.

Die stap stem ooreen met breër bedryfspogings om die diepvals-uitdaging aan te spreek. Microsoft het onlangs die Kongres versoek om 'n "diepvals-bedrogwet" te skep, terwyl Meta's toesigraad het maatskappy gekritiseer's hantering van KI-gegenereerde eksplisiete diepnamaaksels van openbare figure.

Ten spyte van hierdie positiewe stappe, voer sommige voorstanders aan dat Google verder kan gaan. Die maatskappy het byvoorbeeld nie waarskuwingsboodskappe geïmplementeer vir soektogte wat seksuele diepnamaaksels van volwassenes soek nie, soortgelyk aan dié wat gebruik word vir soektogte wat verband hou met beelde van kinderuitbuiting.

Namate diepvalstegnologie aanhou ontwikkel, met 'n geraamde 8 miljoen diepvalse wat na verwagting teen 2025 aanlyn gedeel sal word, word die behoefte aan robuuste teenmaatreëls toenemend dringend. Google's jongste pogings verteenwoordig 'n beduidende stap in die regte rigting, maar die stryd teen nie-konsensuele eksplisiete Beelde bly 'n voortdurende uitdaging vir tegnologiemaatskappye en die samelewing in die algemeen.

Die impak van hierdie veranderinge strek verder as individuele privaatheidskwessies en raak ook kwessies van waninligting, politieke manipulasie en die integriteit van aanlyn inligting. AI tegnologie vooruitgang word die lyn tussen regte en vals inhoud toenemend vaag, wat die belangrikheid van proaktiewe maatreëls deur groot tegnologieplatforms onderstreep.

Google's onderdrukking van eksplisiete diepnamaaksels dui op 'n deurslaggewende ontwikkeling in die voortdurende stryd om vertroue en veiligheid in die digitale era te handhaaf. Namate die maatskappy sy benadering verfyn, sal die tegnologiebedryf en beleidmakers noukeurig dophou hoe hierdie maatreëls die toekoms van aanlyn handel vorm. inhoud moderering en AI bestuur.