Ang pagtaas ng Ang materyal na pang-aabusong sekswal sa bata na binuo ng AI (CSAM) ay nagpapakita ng isang makabuluhang banta sa online na kaligtasan at sa kapakanan ng mga bata. Ayon sa National Center for Missing and Exploited Children (NCMEC), ang mga ulat ng CSAM na natanggap sa pamamagitan ng kanilang Ang CyberTipline ay tumaas ng 12% noong 2023, na umabot sa nakakagulat na 35.9 milyong ulat. Ang nakababahala na pagtaas na ito ay pinalala ng pagdagsa ng AI-generated na CSAM, na hindi lamang muling binibigyang biktima ang mga bata na inilalarawan sa orihinal na nilalaman ngunit lumilikha din ng mga bagong paraan para sa pagsasamantala at normalisasyon ng sekswal na pang-aabuso sa bata.
Ang Saklaw ng Problema
Ayon sa National Center for Missing and Exploited Children (NCMEC), ang CyberTipline, isang mahalagang mapagkukunan para sa pag-uulat ng CSAM, ay nakatanggap ng nakakagulat na 35.9 milyong ulat noong 2023, na minarkahan ng 12% na pagtaas mula sa nakaraang taon. Ang pagtaas ng mga ulat na ito ay pinalala ng pagdagsa ng CSAM na binuo ng AI, na nagdudulot ng mga natatanging hamon sa pagtukoy ng mga tunay na biktima at pagkilala sa pagitan ng tunay at sintetikong nilalaman.
Ang paglaganap ng AI-generated na CSAM ay hindi lamang nagpapabigat sa mga ahensyang nagpapatupad ng batas na inatasang magsasala sa napakaraming digital na nilalaman ngunit nagpapataas din ng mga alalahanin tungkol sa potensyal na pagsasamantala ng mga mahihinang indibidwal, lalo na ang mga bata. Bilang generative AI patuloy na sumusulong ang teknolohiya, tumataas ang panganib ng maling paggamit ng mga salarin, na nangangailangan ng mga proactive na hakbang upang labanan ang bantang ito.
Mga Rekomendasyon at Istratehiya
Upang labanan ang banta ng AI-generated CSAM, ang mga eksperto sa industriya at mga organisasyon ng kaligtasan ng bata ay nagmungkahi ng ilang rekomendasyon at estratehiya. Isang kapansin-pansing rekomendasyon ang nagpapayo sa mga kumpanya na mag-ingat sa pagpili ng mga dataset na ginagamit para sa pagsasanay AI modelo, pinipiling iwasan ang mga eksklusibong binubuo ng mga pagkakataon ng CSAM pati na rin ang nasa hustong gulang sekswal na nilalaman. Ang pag-iingat na ito ay mahalaga dahil sa generative AI's ugali na pagsamahin ang dalawang kategoryang ito.
Bukod pa rito, ang mga social media platform at mga search engine ay hinihimok na agad na alisin ang mga link sa mga website at app na nagpapadali sa pagpapakalat ng mga ipinagbabawal na larawan ng mga bata, sa gayon ay pinipigilan ang paglikha ng mga bagong pagkakataon ng AI-generated na CSAM online.
Mga Hamon sa Pagkilala sa Biktima
Ang pagkakakilanlan ng biktima, kadalasang inilarawan bilang "karayom-sa-haystack” problema, ay naging lalong mahirap dahil sa paglaganap ng AI-generated na CSAM. Dapat suriin ng mga ahensyang nagpapatupad ng batas ang napakaraming digital na content para matukoy at maprotektahan ang mga mahihinang biktima, at ang lumalaking dami ng materyal na binuo ng AI ay nagdaragdag lamang sa haystack na ito, na ginagawang mas masinsinang mapagkukunan at nakakaubos ng oras ang gawain.
Mga Pakikipagtulungang Pagsisikap at Kaligtasan ayon sa Mga Prinsipyo ng Disenyo
Kinikilala ang pagkaapurahan ng isyung ito, nangunguna AI mga kumpanya, kabilang ang OpenAI, Microsoft, Google, at Meta, ay nakipag-isa sa mga organisasyong pangkaligtasan ng bata tulad ng Thorn at All Tech Is Human upang labanan ang pagbuo at pagpapakalat ng AI-generated na CSAM. Ang groundbreaking na inisyatiba na ito ay humantong sa pagbuo ng "Kaligtasan ayon sa Disenyo” na mga prinsipyo, na naglalayong pigilan ang paglikha at pagkalat ng AI-generated na CSAM at iba pang mga sekswal na pinsala laban sa mga bata.
Ang mga pangunahing prinsipyo na nakabalangkas sa "Kaligtasan ayon sa Disenyo para sa Generative AI: Pag-iwas sa Pang-aabusong Sekswal sa Bata"papel ay kinabibilangan ng:
| Prinsipyo | paglalarawan |
|---|---|
| Magbuo | Responsableng pinagkukunan ang mga dataset ng pagsasanay, tuklasin at alisin ang CSAM/CSEM, isama ang mga loop ng feedback, at tugunan ang masamang paggamit sa panahon ng pagbuo ng modelo. |
| lumawak | Maglabas ng mga modelo pagkatapos suriin ang kaligtasan ng bata, labanan ang mapang-abusong content, at hikayatin ang pagmamay-ari ng developer sa kaligtasan. |
| Panatilihin | Aktibong maunawaan at tumugon sa mga panganib sa kaligtasan ng bata, alisin ang AIG-CSAM na nabuo ng mga masasamang aktor, mamuhunan sa pananaliksik at mga solusyon sa hinaharap. |
Sa pamamagitan ng pagpapatupad ng mga prinsipyong ito sa lahat ng yugto ng AI pag-unlad, pag-deploy, at pagpapanatili, nilalayon ng mga kumpanya na gawing mas mahirap para sa masasamang aktor ang maling paggamit generative AI para sa sekswal na pang-aabuso sa mga bata.
Ang Papel ng Lehislasyon at Mga Tagagawa ng Patakaran
Ang mga gumagawa ng patakaran at mambabatas ay gumaganap din ng mahalagang papel sa pagtugon sa isyung ito. Ang REPORT Act, na ipinasa kamakailan ng Senado ng US, ay naglalayong pahusayin ang pag-uulat at paglaban sa online na pagsasamantalang sekswal sa bata sa pamamagitan ng pagpapahaba ng panahon ng pangangalaga ng mga provider para sa iniulat na nilalaman at pagbibigay ng limitadong pananagutan sa NCMEC's vendor.
Gayunpaman, ibinangon ang mga alalahanin tungkol sa potensyal para sa labis na pag-uulat, na maaaring higit pang magpahirap sa nasobrahan nang sistema ng CyberTipline at makagambala sa mga imbestigador na tumuon sa mga lehitimong kaso.
Bilang banta ng Ang AI-generated na CSAM ay patuloy na umuunlad, kinakailangang magtulungan ang mga gumagawa ng patakaran at mga stakeholder sa industriya upang bumuo ng mga responsableng balangkas at alituntunin. Ang mga balangkas na ito ay dapat magpapahintulot sa mga kumpanya na ligal at ligtas na sumubok malalaking modelo ng wika upang mapabuti ang mga kakayahan sa pag-detect habang inuuna ang kaligtasan ng bata at online na proteksyon.
Noong Marso 12 2024, si John Shehan, NCMEC's Ang Senior Vice President, Exploited Children Division at International Engagement, ay tumestigo sa malalalim na pinsala sa mga bata.
Basahin ang kanyang buong patotoo dito
Patuloy na Pagsisikap at Mga Hamon sa Hinaharap
Habang ang pangako sa mga prinsipyo ng Kaligtasan sa pamamagitan ng Disenyo ay isang makabuluhang hakbang pasulong, ang labanan laban sa AI-generated na CSAM ay malayong matapos. Sumang-ayon ang mga kumpanya na maglabas ng mga update sa pag-unlad sa kanilang mga pagsisikap, na tinitiyak ang transparency at pananagutan. Gayunpaman, ang mabilis na pag-unlad ng teknolohiya at ang patuloy na umuusbong na mga taktika ng masasamang aktor ay nangangailangan ng patuloy na pagbabantay at pakikipagtulungan sa lahat ng stakeholder, kabilang ang mga kumpanya ng teknolohiya, mga ahensyang nagpapatupad ng batas, at mga gumagawa ng patakaran.
As Dr. Rebecca Portnoff, Bise Presidente ng Data Science sa Thorn, binibigyang-diin, "Nasa isang sangang-daan tayo sa generative AI, na may parehong pangako at panganib sa ating trabaho na ipagtanggol ang mga bata mula sa sekswal na pang-aabuso“. Ang pagtugon sa hamon na ito ay mangangailangan ng isang multifaceted na diskarte, na gumagamit ng parehong mga teknolohikal na solusyon at matatag ligal na mga balangkas upang protektahan ang mga pinakamahina na miyembro ng lipunan.
BONUS: Kunin ang aming $200"AI Mastery Toolkit” LIBRE kapag nag-sign up ka!
