A Google kifejezetten mélyhamisításokat céloz meg a keresési eredményekben

A nem konszenzusos explicit képek (NCEI) terjedése elleni jelentős lépésként a Google új intézkedéseket jelentett be a mélyhamisítás visszaszorítására. pornográfia a keresési eredményei között. A techóriás's Emma Higham termékmenedzser elárulta, hogy a közelmúltban kiigazították a Google's A rangsoroló algoritmusok már több mint 70%-kal csökkentették a hamis, explicit képeknek való kitettséget a konkrét személyeket célzó keresések esetében..

A kezdeményezés az ezzel kapcsolatos növekvő aggodalomra adott válasz AI által generált explicit tartalom, amely a képmanipulációs eszközök egyre növekvő elérhetőségének köszönhetően megugrott. Google's Az új megközelítés célja, hogy a deepfake-ekről szóló híreket és informatív tartalmakat előnyben részesítse a problémás képek megjelenítése helyett.

Ez az algoritmikus eltolódás követi a VEZETÉKES vizsgálat amely kiemelte a Google-t's korábbi vonakodás a személyzeti és szakértői javaslatok végrehajtásával kapcsolatban az NCEI kérdésének kezelése érdekében. A vállalat most proaktívabb álláspontot képvisel, és három kulcsfontosságú intézkedést terjeszt ki a szintetikus tartalomra, amelyet korábban a valódi, nemkívánatos mélyhamisításoknál használtak:

1. Az eltávolított képek másolatainak eltávolítása
2. A hasonló lekérdezésekből származó explicit eredmények szűrése
3. A nagy mennyiségű sikeres eltávolítási kérelmet tartalmazó webhelyek visszasorolása

Ezek a változtatások célja, hogy a felhasználók „nyugalmat” biztosítsák, különösen azokat, akik aggódnak a hasonló tartalom jövőbeni előfordulása miatt, állítja Higham.

A lépés összhangban van a mélyhamisítási kihívás kezelésére irányuló szélesebb körű iparági erőfeszítésekkel. A Microsoft a közelmúltban felszólította a Kongresszust, hogy alkosson egy „mélyhamisításról szóló törvényt”, míg a Meta's A felügyelőbizottság bírálta a céget's mesterséges intelligencia által generált explicit tartalom kezelése közéleti személyiségek mélyhamisításai.

E pozitív lépések ellenére egyes szószólók azzal érvelnek, hogy a Google tovább tud menni. Például a vállalat nem alkalmazott figyelmeztető üzeneteket a felnőttek szexuális hamisítványait kereső kereséseknél, amelyek hasonlóak a következőkkel kapcsolatos keresésekhez. gyermekkizsákmányolás képei.

Ahogy a deepfake technológia folyamatosan fejlődik, és a becslések szerint 8-re 2025 millió deepfake kerül megosztásra online, egyre sürgetőbbé válik a határozott ellenintézkedések iránti igény. Google's A legújabb erőfeszítések jelentős lépést jelentenek a helyes irányba, de a küzdelem a nem konszenzusos explicit A képalkotás továbbra is folyamatos kihívást jelent a technológiai vállalatok és a társadalom egésze számára.

E változások hatása túlmutat az egyéni adatvédelmi aggályokon, érintve a félretájékoztatást, a politikai manipulációt és az online információk integritását. Mint AI technológia Az előrelépések következtében a valódi és a hamis tartalom közötti határvonal egyre inkább elmosódik, ami aláhúzza a nagy technológiai platformok proaktív intézkedéseinek fontosságát.

Google's lecsapás kifejezett mélyhamisítások döntő előrelépést jelent a bizalom és biztonság megőrzéséért folyó küzdelemben a digitális korban. Ahogy a vállalat továbbra is finomítja megközelítését, a technológiai ipar és a döntéshozók szorosan figyelni fogják, hogy ezek az intézkedések hogyan alakítják az online jövőjét. tartalom moderálása és a AI kormányzás.