Hækkunin á Kynferðisofbeldisefni sem myndast af gervigreindum börnum (CSAM) er veruleg ógn við öryggi á netinu og velferð barna. Samkvæmt National Center for Missing and Exploited Children (NCMEC), skýrslur um CSAM sem bárust í gegnum CyberTipline hækkaði um 12% árið 2023 og náði yfir 35.9 milljónum skýrslna. Þessi ógnvekjandi aukning eykur á innstreymi gervigreindarmyndaðrar CSAM, sem gerir ekki aðeins að verkum að börnin sem sýnd eru í upprunalegu efninu aftur, heldur skapar einnig nýjar leiðir fyrir misnotkun og eðlileg kynferðisofbeldi gegn börnum.
Umfang vandans
Samkvæmt National Center for Missing and Exploited Children (NCMEC), fékk CyberTipline, mikilvægt úrræði til að tilkynna CSAM, svimandi 35.9 milljónir tilkynninga árið 2023, sem er 12% aukning frá fyrra ári. Þessi aukning í skýrslum eykst af innstreymi af CSAM sem búið er til gervigreind, sem veldur einstökum áskorunum við að bera kennsl á raunveruleg fórnarlömb og greina á milli raunverulegra og gerviefni.
Útbreiðsla kynferðisbrota sem myndast með gervigreind er ekki aðeins byrði á löggæsluyfirvöldum sem hafa það hlutverk að flokka í gegnum gríðarlegt magn stafræns efnis heldur vekur einnig áhyggjur af hugsanlegri misnotkun viðkvæmra einstaklinga, sérstaklega barna. AI Tæknin heldur áfram að þróast eykst hættan á misnotkun af hálfu gerenda, sem kallar á fyrirbyggjandi aðgerðir til að berjast gegn þessari ógn.
Ráðleggingar og aðferðir
Til að berjast gegn ógninni af gervigreindum mynduðu CSAM hafa sérfræðingar í iðnaði og barnaöryggissamtök lagt fram nokkrar tillögur og aðferðir. Ein athyglisverð ráðlegging ráðleggur fyrirtækjum að gæta varúðar við að velja gagnasöfn sem notuð eru til þjálfunar AI módel, velur að forðast þá sem eru eingöngu samsett af tilfellum af CSAM og fullorðnum kynferðislegt efniÞessi varúðarráðstöfun er nauðsynleg vegna skapandi gervigreindar.'s tilhneiging til að blanda þessum tveimur flokkum saman.
Að auki eru samfélagsmiðlar og leitarvélar hvattir til að fjarlægja tafarlaust tengla á vefsíður og öpp sem auðvelda miðlun ólöglegra mynda af börnum og hindra þannig sköpun nýrra tilvika af gervigreindarmyndað CSAM á netinu
Áskoranir við að bera kennsl á fórnarlamb
Auðkenning fórnarlambs, oft lýst sem „nál-í-heystafla“ vandamálið, hefur orðið sífellt krefjandi vegna útbreiðslu gervigreindarmyndaðrar CSAM. Löggæslustofnanir verða að sigta í gegnum gríðarlegt magn af stafrænu efni til að bera kennsl á og vernda viðkvæm fórnarlömb, og vaxandi magn gervigreindarefnis eykur aðeins við þennan heystakk, sem gerir verkefnið auðlindafrekara og tímafrekara.
Samvinnuátak og öryggi eftir hönnunarreglum
Í ljósi þess hve brýnt þetta mál er, leiðir það AI fyrirtæki, þ.m.t. OpenAI, Microsoft, Google og Meta, hafa sameinast barnaöryggisstofnunum eins og Thorn og All Tech Is Human til að berjast gegn myndun og útbreiðslu gervigreindarmyndaðrar CSAM. Þetta byltingarkennda framtak hefur leitt til þróunar á „Safety by Design" meginreglur, sem miða að því að koma í veg fyrir sköpun og útbreiðslu gervigreindarmyndaðrar CSAM og annarra kynferðislegra skaða gegn börnum.
Lykilreglurnar sem lýst er í „Safety by Design for Generative AI: Forhindra kynferðisofbeldi gegn börnum“ pappír inniheldur:
| Hugmyndafræði | Lýsing |
|---|---|
| Þróa | Sækja þjálfunargagnasöfn á ábyrgan hátt, greina og fjarlægja CSAM/CSEM, fella inn endurgjöfarlykkjur og taka á andstæðri misnotkun við gerð líkana. |
| Innleiða | Gefa út líkön eftir að hafa metið öryggi barna, berjast gegn móðgandi efni og hvetja þróunaraðila til eignarhalds á öryggi. |
| Halda | Skildu og bregðust virkan við öryggisáhættum barna, fjarlægðu AIG-CSAM sem myndast af slæmum leikurum, fjárfestu í rannsóknum og framtíðarlausnum. |
Með því að innleiða þessar meginreglur á öllum stigum AI þróun, dreifingu og viðhaldi, fyrirtæki stefna að því að gera það erfiðara fyrir illvirkja að misnota kynslóðar gervigreind vegna kynferðislegrar misnotkunar á börnum.
Hlutverk löggjafar og stefnumótenda
Stjórnmálamenn og löggjafar gegna einnig lykilhlutverki í að takast á við þetta mál. REPORT-lögin, sem nýlega voru samþykkt af öldungadeild Bandaríkjanna, miða að því að efla skýrslugjöf og baráttu gegn kynferðislegri misnotkun barna á netinu með því að lengja varðveislutíma þjónustuaðila fyrir tilkynnt efni og veita NCMEC takmarkaða ábyrgð.'s söluaðilar.
Hins vegar hafa áhyggjur vaknað um möguleikann á ofskýrslum, sem gæti þrengt enn frekar á CyberTipline kerfinu sem þegar er of mikið og truflað rannsakendur frá því að einblína á lögmæt mál.
Eins og hótun um CSAM sem myndast með gervigreind heldur áfram að þróast, það er brýnt að stefnumótendur og hagsmunaaðilar í atvinnulífinu taki höndum saman um að þróa ábyrgan ramma og leiðbeiningar. Þessir rammar ættu að gera fyrirtækjum kleift að prófa löglega og örugglega stór mállíkön til að bæta greiningargetu á sama tíma og öryggi barna og netvernd er forgangsraðað.
Þann 12. mars 2024, John Shehan, NCMEC's Yfirmaður misnotaðra barna og alþjóðlegra samskipta, bar vitni um djúpfölsunarskaða á börnum.
Lestu allan vitnisburð hans hér
Áframhaldandi átak og framtíðaráskoranir
Þó að skuldbindingin við meginreglur Safety by Design sé mikilvægt framfaraskref, er baráttan gegn gervigreind-myndað CSAM langt frá því að vera lokið. Fyrirtæki hafa samþykkt að gefa út framvinduuppfærslur á viðleitni sinni, til að tryggja gagnsæi og ábyrgð. Hins vegar, hraður tækniframfarir og sívaxandi aðferðir slæmra leikara, krefjast stöðugrar árvekni og samvinnu allra hagsmunaaðila, þar á meðal tæknifyrirtækja, löggæslustofnana og stefnumótandi aðila.
As Dr. Rebecca Portnoff, Varaforseti Gagnafræði hjá Thorn, leggur áherslu á, "Við stöndum á tímamótum með skapandi gervigreind, sem hefur bæði fyrirheit og áhættu í starfi okkar við að verja börn gegn kynferðislegu ofbeldi“. Til að takast á við þessa áskorun mun krefjast margþættrar nálgunar, nýta bæði tæknilegar lausnir og öflugar lagaramma að vernda viðkvæmustu þegna samfélagsins.
Bónus: Fáðu 200 dollara okkarAI „Verkfærakista fyrir meistaranám“ ÓKEYPIS þegar þú skráir þig!
