YouTube introduserer retningslinjer for å fjerne AI-genererte Deepfakes

YouTube har i det stille rullet ut en ny policy som lar brukere be om fjerning av AI-generert eller syntetisk innhold som simulerer ansiktet eller stemmen deres. Dette trekket, implementert i juni 2024, er en del av plattformen's pågående innsats for å håndtere utfordringene som spredningen av kunstig intelligens i innholdsproduksjon medfører.

De oppdaterte retningslinjene utvider YouTube's prosess for forespørsler om personvern, slik at enkeltpersoner kan flagge videoer de mener bruker AI å lage realistiske endrede versjoner av deres likhetDenne endringen er i samsvar med YouTube's ansvarlig AI agenda, først introdusert i november 2023.

I henhold til de nye retningslinjene kan berørte parter rapportere AI-generert innhold som et brudd på personvernet i stedet for å være villedende. YouTube vil vurdere hver klage basert på flere faktorer, inkludert:

1. Om innholdet eksplisitt avsløres som syntetisk eller AI-generert
2. Hvis den identifiserer en spesifikk person
3. Innholdet's realisme
4. Enten det kvalifiserer som parodi, satire eller tjener offentlig interesse
5. Hvis den inneholder offentlige personer eller kjente personer, spesielt i sensitive situasjoner

Politikken tar også opp bekymringer knyttet til offentlige personer og kjendiser. YouTube vil være spesielt oppmerksom på AI-generert innhold som viser velkjente individer i sensitive scenarier, som ulovlige aktiviteter, vold eller godkjenning av produkter og politiske kandidater. Dette aspektet er spesielt relevant gitt den potensielle effekten av AI-generert innhold på kommende valg.

Innholdsskapere vil ha 48 timer på å svare på klager før YouTube starter en vurderingsprosess. Hvis fjerning anses nødvendig, vil hele videoen bli fjernet, inkludert all identifiserende informasjon i titler, beskrivelser eller tagger.

It's viktig å merke seg at brudd på personvernet behandles separat fra advarsler om brudd på retningslinjene for fellesskapet. Dette betyr at skapere ikke automatisk vil møte straff hvis innholdet deres fjernes på grunn av en personvernklage. YouTube kan imidlertid iverksette tiltak mot kontoer med gjentatte brudd.

I tillegg til denne policyendringen har YouTube introdusert andre tiltak for å håndtere AI-generert innhold:

1. Et verktøy i Creator Studio for å avsløre syntetiske medier, inkludert generativ AI
2. En funksjon som testes for å tillate brukere å legge til crowdsourcede notater som gir kontekst på videoer
3. Eksperimenter med generative AI for funksjoner som kommentaroppsummering og samtaleverktøy

Flyttingen kommer mens sosiale medieplattformer kjemper med den raske økningen av AI-generert innhold. Andre plattformer som Instagram, Metaog TikTok har også implementert eller er i ferd med å innføre lignende avsløringsprosedyrer for AI-generert innhold.

As AI Teknologien fortsetter å utvikle seg, og det blir stadig mer utfordrende å skille mellom syntetiske og autentiske medier. Ifølge en studie fra Pew Research Center, 52 % av amerikanere uttrykker mer frykt enn entusiasme for AI's en stadig større rolle i hverdagen.

YouTube's ny politikk har som mål å finne en balanse mellom å fremme kreativitet og opprettholde tillit på plattformen. Ved å la brukere be om fjerning av AI-generert innhold som etterligner deres likhet, tar YouTube et proaktivt skritt for å håndtere personvernproblemer og potensielt misbruk av AI teknologi i innholdsproduksjon.

Til innholdsskapere, Det's avgjørende å forstå og overholde disse nye retningslinjene for å sikre at innholdet forblir på plattformen. AI fortsetter å forme fremtiden for digitalt innhold, og slike retningslinjer vil spille en viktig rolle i å opprettholde etiske standarder og bekjempe feilinformasjon i det elektroniske økosystemet.