Ökningen av AI-genererat material med sexuella övergrepp mot barn (CSAM) utgör ett betydande hot mot onlinesäkerheten och barns välbefinnande . Enligt National Center for Missing and Exploited Children (NCMEC) ökade antalet rapporter om CSAM som mottogs via deras CyberTipline med 12 % under 2023 och uppgick till häpnadsväckande 35.9 miljoner rapporter . Denna alarmerande ökning förvärras av tillströmningen av AI-genererat CSAM, vilket inte bara återupplivar de barn som avbildas i det ursprungliga innehållet utan också skapar nya vägar för utnyttjande och normalisering av sexuella övergrepp mot barn.
Problemets omfattning
Enligt National Center for Missing and Exploited Children (NCMEC) mottog CyberTipline, en viktig resurs för rapportering av CSAM, hela 35.9 miljoner rapporter år 2023, vilket är en ökning med 12 % jämfört med föregående år. Denna ökning av rapporter förvärras av tillströmningen av AI-genererat CSAM , vilket innebär unika utmaningar när det gäller att identifiera verkliga offer och skilja mellan verkligt och syntetiskt innehåll.
Spridningen av AI-genererade CSAM belastar inte bara brottsbekämpande myndigheter som har i uppgift att sålla igenom stora mängder digitalt innehåll, utan väcker också oro för potentiellt utnyttjande av utsatta individer, särskilt barn. AI I takt med att tekniken fortsätter att utvecklas ökar risken för missbruk av förövare, vilket kräver proaktiva åtgärder för att bekämpa detta hot.
Rekommendationer och strategier
För att bekämpa hotet från AI-genererad CSAM har branschexperter och barnsäkerhetsorganisationer föreslagit flera rekommendationer och strategier. En anmärkningsvärd rekommendation råder företag att vara försiktiga när de väljer datauppsättningar som används för utbildning AI modeller, väljer att undvika de som uteslutande består av fall av CSAM såväl som vuxen sexuellt innehållDenna försiktighetsåtgärd är viktig på grund av generativ AI's tendens att blanda ihop dessa två kategorier.
Dessutom uppmanas sociala medieplattformar och sökmotorer att omedelbart ta bort länkar till webbplatser och appar som underlättar spridningen av otillåtna bilder av barn, och därigenom förhindra skapandet av nya instanser av AI-genererad CSAM online
Utmaningar i offeridentifiering
Identifiering av offer, ofta beskrivet som ett " nålen i en höstack "-problem, har blivit alltmer utmanande på grund av spridningen av AI-genererade CSAM. Brottsbekämpande myndigheter måste sålla igenom stora mängder digitalt innehåll för att identifiera och skydda utsatta offer, och den växande volymen AI-genererat material ökar bara denna höstack, vilket gör uppgiften mer resurskrävande och tidskrävande.
Samarbete och Safety by Design-principer
Medvetet om hur brådskande denna fråga är, vilket leder till AI företag inklusive OpenAI, Microsoft, Google och Meta, har gått samman med barnsäkerhetsorganisationer som Thorn och All Tech Is Human för att bekämpa genereringen och spridningen av AI-genererad CSAM. Detta banbrytande initiativ har lett till utvecklingen av "Safety by Design” principer, som syftar till att förhindra skapandet och spridningen av AI-genererad CSAM och andra sexuella skador mot barn.
De viktigaste principerna som beskrivs i rapporten ” Säkerhet genom design för generativ AI: Förebyggande av sexuella övergrepp mot barn ” inkluderar:
| Princip | BESKRIVNING |
|---|---|
| Utveckla | Ansvarsfullt anskaffa utbildningsdatauppsättningar, upptäcka och ta bort CSAM/CSEM, införliva återkopplingsslingor och ta itu med kontradiktoriskt missbruk under modellutveckling. |
| Distribuera | Släpp modeller efter att ha utvärderat barnsäkerheten, bekämpa kränkande innehåll och uppmuntra utvecklarnas ägande av säkerheten. |
| Bibehålla | Förstå och reagera aktivt på barnsäkerhetsrisker, ta bort AIG-CSAM som genererats av dåliga aktörer, investera i forskning och framtida lösningar. |
Genom att implementera dessa principer i alla steg av AI utveckling, driftsättning och underhåll, företag strävar efter att göra det svårare för ondskefulla aktörer att missbruka generativ AI för sexuella övergrepp mot barn.
Lagstiftningens och beslutsfattares roll
Beslutsfattare och lagstiftare spelar också en avgörande roll i att ta itu med denna fråga. REPORT-lagen, som nyligen antogs av den amerikanska senaten, syftar till att förbättra rapporteringen och bekämpningen av sexuell exploatering av barn online genom att förlänga leverantörernas bevarandeperiod för rapporterat innehåll och ge NCMEC begränsat ansvar.'s försäljare.
Det har dock väckts oro över risken för överrapportering, vilket ytterligare kan belasta det redan överbelastade CyberTipline-systemet och distrahera utredarna från att fokusera på legitima fall.
I takt med att hotet från AI-genererat CSAM fortsätter att utvecklas är det absolut nödvändigt att beslutsfattare och branschintressenter samarbetar för att utveckla ansvarsfulla ramverk och riktlinjer. Dessa ramverk bör göra det möjligt för företag att lagligt och säkert testa stora språkmodeller för att förbättra upptäcktsmöjligheterna, samtidigt som barnsäkerhet och onlineskydd prioriteras.
Den 12 mars 2024, John Shehan, NCMEC's Senior vice president, avdelningen för utnyttjade barn och internationellt engagemang, vittnade om djupförfalskningar av skador på barn.
Läs hela hans vittnesmål här
Pågående insatser och framtida utmaningar
Även om engagemanget för Safety by Design-principerna är ett viktigt steg framåt, är kampen mot AI-genererad CSAM långt ifrån över. Företag har gått med på att släppa framstegsuppdateringar om sina ansträngningar, för att säkerställa transparens och ansvarsskyldighet. Den snabba takten i tekniska framsteg och dåliga aktörers ständigt utvecklande taktik kräver dock kontinuerlig vaksamhet och samarbete mellan alla intressenter, inklusive teknikföretag, brottsbekämpande myndigheter och beslutsfattare.
Som Dr. Rebecca Portnoff , vice vd för datavetenskap på Thorn, betonar: ” Vi står vid ett vägskäl med generativ AI, som innebär både lovande och riskfyllda aspekter av vårt arbete med att försvara barn från sexuella övergrepp ”. Att ta itu med denna utmaning kommer att kräva en mångfacetterad strategi, som utnyttjar både tekniska lösningar och robusta rättsliga ramverk för att skydda de mest utsatta medlemmarna i samhället.
BONUS: Få våra 200 dollarAI ”Mastery Toolkit” GRATIS när du registrerar dig!
