Tõus AI loodud laste seksuaalse kuritarvitamise materjal (CSAM) on oluline ohtu Interneti-turvalisusele ja laste heaolule. Kadunud ja ärakasutatud laste riikliku keskuse (NCMEC) andmetel said CSAM-i teated nende kaudu. CyberTipline kasvas 12. aastal 2023%, jõudes vapustavalt 35.9 miljoni aruandeni. Seda murettekitavat kasvu süvendab tehisintellekti loodud CSAM-i sissevool, mis mitte ainult ei ohverda algsisus kujutatud lapsi, vaid loob ka uusi võimalusi laste seksuaalse kuritarvitamise ärakasutamiseks ja normaliseerimiseks.
Probleemi ulatus
National Center for Missing and Exploited Children (NCMEC) andmetel sai CyberTipline, mis on CSAM-ist teatamise oluline ressurss, 35.9. aastal hämmastavalt 2023 miljonit teadet, mis tähendab 12% kasvu võrreldes eelmise aastaga. Seda aruannete tõusu süvendab allikate sissevool AI loodud CSAM, mis seab ainulaadsed väljakutsed tõeliste ohvrite tuvastamisel ning tegelike ja tegelike ohvrite eristamisel sünteetiline sisu.
Tehisintellekti loodud laste seksuaalset agressiooni kajastava materjali (CSAM) levik mitte ainult ei koorma õiguskaitseasutusi, kelle ülesandeks on tohutu hulga digitaalse sisu läbitöötamine, vaid tekitab ka muret haavatavate isikute, eriti laste võimaliku ärakasutamise pärast. AI Tehnoloogia arenedes suureneb kuritarvitajate poolse kuritarvitamise oht, mis nõuab ennetavaid meetmeid selle ohu vastu võitlemiseks.
Soovitused ja strateegiad
Tehisintellekti loodud CSAM-i ohuga võitlemiseks on valdkonna eksperdid ja laste turvaorganisatsioonid pakkunud välja mitmeid soovitusi ja strateegiaid. Üks tähelepanuväärne soovitus soovitab ettevõtetel olla koolituseks kasutatavate andmekogumite valimisel ettevaatlik AI mudelid, otsustades vältida neid, mis koosnevad ainult CSAM-i juhtudest ja ka täiskasvanutest seksuaalne sisuSee ettevaatusabinõu on generatiivse tehisintellekti tõttu oluline.'s kalduvus neid kahte kategooriat omavahel segamini ajada.
Lisaks kutsutakse sotsiaalmeedia platvorme ja otsingumootoreid tungivalt üles eemaldama viivitamatult lingid veebisaitidele ja rakendustele, mis hõlbustavad laste ebaseaduslike piltide levitamist, takistades sellega uute tehisintellektiga loodud CSAM-i juhtude loomist võrgus.
Väljakutsed ohvrite tuvastamisel
Ohvri tuvastamine, mida sageli kirjeldatakse kui "nõel-heinakuhjas” probleem on muutunud tehisintellekti loodud CSAM-i leviku tõttu üha keerulisemaks. Õiguskaitseorganid peavad haavatavate ohvrite tuvastamiseks ja kaitsmiseks läbi sõeluma tohutul hulgal digitaalset sisu ning tehisintellekti loodud materjali kasvav hulk lisab sellele heinakuhjale ainult lisa, muutes ülesande ressursimahukamaks ja aeganõudvamaks.
Koostöö ja ohutus kavandamise põhimõtete järgi
Tunnistades selle küsimuse pakilisust, juhtides AI ettevõtted, sealhulgas OpenAI, Microsoft, Google ja Meta on ühinenud lastekaitseorganisatsioonidega, nagu Thorn ja All Tech Is Human, et võidelda tehisintellekti loodud CSAM-i loomise ja levitamisega. See murranguline algatus on viinud selle väljatöötamiseniDisaini ohutus” põhimõtteid, mille eesmärk on ennetada tehisintellekti tekitatud CSAM-i ja muude laste vastu suunatud seksuaalkahjude teket ja levikut.
Peamised põhimõtted, mis on välja toodud "Disainitud ohutus generatiivse AI jaoks: laste seksuaalse kuritarvitamise ennetamine"paber sisaldab:
| Põhimõte | Kirjeldus |
|---|---|
| Arendama | Hankige vastutustundlikult koolitusandmekogumeid, tuvastage ja eemaldage CSAM/CSEM, lisage tagasisideahelad ja tegelege mudeli arendamise ajal võistleva väärkasutusega. |
| juurutada | Avaldage mudelid pärast laste turvalisuse hindamist, võitlege kuritahtliku sisuga ja julgustage arendajat turvalisuse eest vastutama. |
| Säilitama | Mõistke aktiivselt laste turvariske ja reageerige neile, eemaldage halbade osalejate loodud AIG-CSAM, investeerige teadusuuringutesse ja tulevikulahendustesse. |
Rakendades neid põhimõtteid kõigis etappides AI arenduse, juurutamise ja hoolduse valdkonnas püüavad ettevõtted pahatahtlikel isikutel väärkasutamist raskendada generatiivne AI laste seksuaalse kuritarvitamise eest.
Seadusandluse ja poliitikakujundajate roll
Selle probleemi lahendamisel mängivad olulist rolli ka poliitikakujundajad ja seadusandjad. Hiljuti USA Senati poolt vastu võetud REPORT Acti eesmärk on parandada laste seksuaalse ärakasutamise kohta internetis teatamist ja selle vastast võitlust, pikendades teenusepakkujate säilitamisperioodi teatatud sisu puhul ja andes NCMEC-ile piiratud vastutuse.'s müüjad.
Siiski on tekitatud muret võimaliku ületeatamise pärast, mis võib niigi ülekoormatud CyberTipline'i süsteemi veelgi koormata ja segada uurijaid keskendumast seaduslikele juhtumitele.
Nagu ähvardus AI-ga loodud CSAM areneb edasi, On hädavajalik, et poliitikakujundajad ja tööstuse sidusrühmad teeksid koostööd vastutustundlike raamistike ja suuniste väljatöötamiseks. Need raamistikud peaksid võimaldama ettevõtetel seaduslikult ja ohutult testida suured keelemudelid parandada tuvastamisvõimalusi, seades esikohale laste turvalisuse ja võrgukaitse.
12. märtsil 2024 John Shehan, NCMEC's Ekspluateeritud laste osakonna ja rahvusvahelise koostöö vanem asepresident andis tunnistusi lastele tekitatud süvavõltsingulise kahju kohta.
Loe tema täielikku tunnistust siit
Käimasolevad jõupingutused ja tulevased väljakutsed
Kuigi projekteerimise ohutuse põhimõtetele pühendumine on märkimisväärne samm edasi, ei ole võitlus AI-ga loodud CSAM-i vastu veel kaugeltki lõppenud. Ettevõtted on nõustunud avaldama oma jõupingutuste edusamme, tagades läbipaistvuse ja vastutuse. Tehnoloogilise arengu kiire tempo ja halbade tegijate üha arenev taktika nõuab aga pidevat valvsust ja koostööd kõigi sidusrühmade, sealhulgas tehnoloogiaettevõtete, õiguskaitseorganite ja poliitikakujundajate vahel.
As Dr Rebecca Portnoff, Asepresident Andmeteadus Thornis, rõhutab, "Oleme ristteel generatiivse tehisintellektiga, millel on meie töös laste kaitsmisel seksuaalse kuritarvitamise eest nii lubadus kui ka risk.“. Selle väljakutsega tegelemine nõuab mitmekülgset lähenemist, mis kasutab nii tehnoloogilisi kui ka jõulisi lahendusi õigusraamistikud kaitsta ühiskonna kõige haavatavamaid liikmeid.
BONUS: Hankige meie 200 dollaritAI "Meisterlikkuse tööriistakomplekt" TASUTA registreerumisel!
