Uppkomsten av AI-genererat material för sexuella övergrepp mot barn (CSAM) utgör en betydande hot mot onlinesäkerhet och barns välbefinnande. Enligt National Center for Missing and Exploited Children (NCMEC) har rapporterna om CSAM som tagits emot via deras CyberTipline ökade med 12 % 2023 och nådde häpnadsväckande 35.9 miljoner rapporter. Denna oroväckande ökning förvärras av inflödet av AI-genererat CSAM, som inte bara revictimiserar barnen som avbildas i originalinnehållet utan också skapar nya vägar för utnyttjande och normalisering av sexuella övergrepp mot barn.
Problemets omfattning
Enligt National Center for Missing and Exploited Children (NCMEC) fick CyberTipline, en viktig resurs för att rapportera CSAM, svindlande 35.9 miljoner rapporter 2023, vilket är en ökning med 12 % från föregående år. Denna ökning av rapporter förvärras av tillströmningen av AI-genererad CSAM, vilket innebär unika utmaningar när det gäller att identifiera verkliga offer och skilja mellan verkliga och syntetiskt innehåll.
Spridningen av AI-genererade CSAM belastar inte bara brottsbekämpande myndigheter som har i uppgift att sålla igenom stora mängder digitalt innehåll, utan väcker också oro för potentiellt utnyttjande av utsatta individer, särskilt barn. AI I takt med att tekniken fortsätter att utvecklas ökar risken för missbruk av förövare, vilket kräver proaktiva åtgärder för att bekämpa detta hot.
Rekommendationer och strategier
För att bekämpa hotet från AI-genererad CSAM har branschexperter och barnsäkerhetsorganisationer föreslagit flera rekommendationer och strategier. En anmärkningsvärd rekommendation råder företag att vara försiktiga när de väljer datauppsättningar som används för utbildning AI modeller, väljer att undvika de som uteslutande består av fall av CSAM såväl som vuxen sexuellt innehållDenna försiktighetsåtgärd är viktig på grund av generativ AI's tendens att blanda ihop dessa två kategorier.
Dessutom uppmanas sociala medieplattformar och sökmotorer att omedelbart ta bort länkar till webbplatser och appar som underlättar spridningen av otillåtna bilder av barn, och därigenom förhindra skapandet av nya instanser av AI-genererad CSAM online
Utmaningar i offeridentifiering
Offrets identifiering, ofta beskrivet som en "nål-i-höstacken” problem, har blivit allt mer utmanande på grund av spridningen av AI-genererad CSAM. Brottsbekämpande myndigheter måste sålla igenom stora mängder digitalt innehåll för att identifiera och skydda utsatta offer, och den växande volymen AI-genererat material bidrar bara till denna höstack, vilket gör uppgiften mer resurskrävande och tidskrävande.
Samarbete och Safety by Design-principer
Medvetet om hur brådskande denna fråga är, vilket leder till AI företag inklusive OpenAI, Microsoft, Google och Meta, har gått samman med barnsäkerhetsorganisationer som Thorn och All Tech Is Human för att bekämpa genereringen och spridningen av AI-genererad CSAM. Detta banbrytande initiativ har lett till utvecklingen av "Safety by Design” principer, som syftar till att förhindra skapandet och spridningen av AI-genererad CSAM och andra sexuella skador mot barn.
De nyckelprinciper som beskrivs i "Safety by Design for Generative AI: Preventing Child Sexual Abuse" papper inkluderar:
| Princip | BESKRIVNING |
|---|---|
| Utveckla | Ansvarsfullt anskaffa utbildningsdatauppsättningar, upptäcka och ta bort CSAM/CSEM, införliva återkopplingsslingor och ta itu med kontradiktoriskt missbruk under modellutveckling. |
| Distribuera | Släpp modeller efter att ha utvärderat barnsäkerheten, bekämpa kränkande innehåll och uppmuntra utvecklarnas ägande av säkerheten. |
| Bibehålla | Förstå och reagera aktivt på barnsäkerhetsrisker, ta bort AIG-CSAM som genererats av dåliga aktörer, investera i forskning och framtida lösningar. |
Genom att implementera dessa principer i alla steg av AI utveckling, driftsättning och underhåll, företag strävar efter att göra det svårare för ondskefulla aktörer att missbruka generativ AI för sexuella övergrepp mot barn.
Lagstiftningens och beslutsfattares roll
Beslutsfattare och lagstiftare spelar också en avgörande roll i att ta itu med denna fråga. REPORT-lagen, som nyligen antogs av den amerikanska senaten, syftar till att förbättra rapporteringen och bekämpningen av sexuell exploatering av barn online genom att förlänga leverantörernas bevarandeperiod för rapporterat innehåll och ge NCMEC begränsat ansvar.'s försäljare.
Det har dock väckts oro över risken för överrapportering, vilket ytterligare kan belasta det redan överbelastade CyberTipline-systemet och distrahera utredarna från att fokusera på legitima fall.
Som hotet om AI-genererad CSAM fortsätter att utvecklas, det är absolut nödvändigt att beslutsfattare och branschaktörer samarbetar för att utveckla ansvarsfulla ramar och riktlinjer. Dessa ramverk bör göra det möjligt för företag att lagligt och säkert testa stora språkmodeller att förbättra upptäcktsmöjligheterna samtidigt som barnsäkerhet och onlineskydd prioriteras.
Den 12 mars 2024, John Shehan, NCMEC's Senior vice president, avdelningen för utnyttjade barn och internationellt engagemang, vittnade om djupförfalskningar av skador på barn.
Läs hela hans vittnesmål här
Pågående insatser och framtida utmaningar
Även om engagemanget för Safety by Design-principerna är ett viktigt steg framåt, är kampen mot AI-genererad CSAM långt ifrån över. Företag har gått med på att släppa framstegsuppdateringar om sina ansträngningar, för att säkerställa transparens och ansvarsskyldighet. Den snabba takten i tekniska framsteg och dåliga aktörers ständigt utvecklande taktik kräver dock kontinuerlig vaksamhet och samarbete mellan alla intressenter, inklusive teknikföretag, brottsbekämpande myndigheter och beslutsfattare.
As Dr Rebecca Portnoff, Vice ordförande för Data Science på Thorn, betonar, "Vi står vid ett vägskäl med generativ AI, som har både löften och risker i vårt arbete med att försvara barn från sexuella övergrepp". Att ta itu med denna utmaning kommer att kräva ett mångfacetterat tillvägagångssätt som utnyttjar både tekniska lösningar och robust rättsliga ramar att skydda de mest utsatta medlemmarna i samhället.
BONUS: Få våra 200 dollarAI ”Mastery Toolkit” GRATIS när du registrerar dig!
