Google se ve výsledcích vyhledávání zaměřuje na explicitní Deepfakes

Google se ve výsledcích vyhledávání zaměřuje na explicitní Deepfakes

V rámci významného kroku v boji proti šíření nekonsensuálních explicitních snímků (NCEI) Google oznámil nová opatření k potlačení deepfake pornfotografie ve výsledcích vyhledávání. Technologický gigant's produktová manažerka Emma Highamová odhalila, že nedávné úpravy Google's Algoritmy pro hodnocení již snížily vystavení falešným explicitním obrázkům o více než 70 % u vyhledávání zaměřených na konkrétní osoby..

Tato iniciativa přichází v reakci na rostoucí obavy z explicitního obsahu generovaného umělou inteligencí , který zaznamenal nárůst kvůli rostoucí dostupnosti nástrojů pro manipulaci s obrázky. Nový přístup společnosti Google si klade za cíl upřednostňovat zpravodajské články a informativní obsah o deepfakes spíše než zobrazovat samotné problematické obrázky.

Tato změna algoritmů navazuje na vyšetřování serveru WIRED , které zdůraznilo předchozí neochotu společnosti Google implementovat návrhy zaměstnanců a expertů k řešení problému NCEI . Společnost nyní zaujala proaktivnější postoj a rozšířila tři klíčová opatření dříve používaná pro skutečné nežádoucí explicitní deepfaky i na syntetický obsah:

  1. Odstranění duplikátů sejmutých snímků
  2. Filtrování explicitních výsledků z podobných dotazů
  3. Snížení úrovně webů s velkým objemem úspěšných žádostí o odstranění

Tyto změny jsou navrženy tak, aby uživatelům poskytly „další klid“, zejména těm, kteří se obávají budoucího výskytu podobného obsahu, tvrdí Higham.

Tento krok je v souladu s širším úsilím odvětví o řešení problému deepfake. Microsoft nedávno vyzval Kongres k vytvoření „zákona o podvodech s deepfake“, zatímco dozorčí rada společnosti Meta kritizovala způsob, jakým společnost nakládá s explicitními deepfakey generovanými umělou inteligencí o veřejně známých osobnostech.

Materiál o sexuálním zneužívání dětí generovaný umělou inteligencí

Navzdory těmto pozitivním krokům někteří zastánci tvrdí, že Google by mohl jít ještě dál. Společnost například neimplementovala varovné zprávy pro vyhledávání, která hledají sexuální deepfakey dospělých, podobné těm, které se používají pro vyhledávání související s obrázky zneužívání dětí.

S neustálým vývojem technologie deepfake, která má být do roku 2025 sdílena online odhadem 8 milionů deepfakeů, je potřeba robustních protiopatření stále naléhavější. Nejnovější úsilí společnosti Google představuje významný krok správným směrem, ale boj proti explicitním snímkům bez souhlasu zůstává pro technologické společnosti i společnost jako celek trvalou výzvou.

Dopad těchto změn přesahuje individuální zájmy o soukromí a dotýká se otázek dezinformací, politické manipulace a integrity online informací. Jak AI technika s pokrokem se hranice mezi skutečným a falešným obsahem stále více stírá, což podtrhuje důležitost proaktivních opatření ze strany hlavních technologických platforem.

Google's zátah na explicitní deepfakes představuje zásadní vývoj v neustálém boji o udržení důvěry a bezpečí v digitálním věku. Jak společnost pokračuje ve zdokonalování svého přístupu, technický průmysl a tvůrci politik budou bedlivě sledovat, jak tato opatření utvářejí budoucnost online moderování obsahu a AI vláda.

https://twitter.com/DrDataScientist/status/1818646445656084623

Napsat komentář

Vaše e-mailová adresa nebude zveřejněna. Povinná pole jsou označena *.

Zapojte se do Aimojo Kmen!

Připojte se k více než 76,000 XNUMX členům a získejte každý týden zasvěcené tipy! 
???? BONUS: Získejte našich 200 dolarůAI „Sada nástrojů pro mistrovství“ ZDARMA při registraci!

Trending AI Tools
AI Andělé

Vytvořte si osobní AI přítelkyně, která si tě opravdu pamatuje. Soukromé chaty, hlasové hovory, fantazie na míru. Dospělý AI společnost s trvalou pamětí a osobní romantikou.

OpenCode

Rychlejší dodávání spolehlivého kódu díky flexibilnímu řešení AI agenti. Jeden kódovací agent, stovky poskytovatelů. Automatizace repozitářů s otevřeným zdrojovým kódem napříč terminály a desktopovými pracovními postupy.

scribbr

Polské akademické práce a včasné odhalení citačních chyb. Před konečným odevzdáním najděte chyby v citacích. Akademické korektury, kontrola originality a inteligentnější správa referencí.

Vyvolat

Proměňte složitý akademický výzkum rychleji v důvěryhodné a praktické poznatky. Najděte dokumenty, extrahujte důkazy, generujte zprávy. An AI výzkumný asistent vytvořený pro analýzu vědeckých důkazů.

Osvobozená AI

Proměňte rozhovory s pacienty v uspořádané poznámky bez nutnosti nočního psaní. Klinická dokumentace, která se naučí váš styl. An AI lékařský písař vytvořený pro nezávislou klinickou praxi.

© Copyright 2023 - 2026 | Staňte se AI Pro | Vyrobeno s ♥