Ang pagdami ng mga materyal na may kinalaman sa pang-aabusong sekswal sa bata (CSAM) na likha ng AI ay nagdudulot ng malaking banta sa kaligtasan online at sa kapakanan ng mga bata . Ayon sa National Center for Missing and Exploited Children (NCMEC), ang mga ulat ng CSAM na natanggap sa pamamagitan ng kanilang CyberTipline ay tumaas ng 12% noong 2023, na umabot sa nakakagulat na 35.9 milyong ulat . Ang nakababahalang pagtaas na ito ay pinalala ng pagdagsa ng CSAM na likha ng AI, na hindi lamang muling binibiktima ang mga batang inilalarawan sa orihinal na nilalaman kundi lumilikha rin ng mga bagong paraan para sa pagsasamantala at normalisasyon ng pang-aabusong sekswal sa bata.
Ang Saklaw ng Problema
Ayon sa National Center for Missing and Exploited Children (NCMEC), ang CyberTipline, isang mahalagang mapagkukunan para sa pag-uulat ng CSAM, ay nakatanggap ng nakakagulat na 35.9 milyong ulat noong 2023, na nagmamarka ng 12% na pagtaas mula sa nakaraang taon. Ang pagdami ng mga ulat na ito ay pinalala ng pagdagsa ng AI-generated CSAM , na nagdudulot ng mga natatanging hamon sa pagtukoy ng mga tunay na biktima at pagkakaiba sa pagitan ng tunay at sintetikong nilalaman.
Ang paglaganap ng AI-generated na CSAM ay hindi lamang nagpapabigat sa mga ahensyang nagpapatupad ng batas na inatasang magsasala sa napakaraming digital na nilalaman ngunit nagpapataas din ng mga alalahanin tungkol sa potensyal na pagsasamantala ng mga mahihinang indibidwal, lalo na ang mga bata. Bilang generative AI patuloy na sumusulong ang teknolohiya, tumataas ang panganib ng maling paggamit ng mga salarin, na nangangailangan ng mga proactive na hakbang upang labanan ang bantang ito.
Mga Rekomendasyon at Istratehiya
Upang labanan ang banta ng AI-generated CSAM, ang mga eksperto sa industriya at mga organisasyon ng kaligtasan ng bata ay nagmungkahi ng ilang rekomendasyon at estratehiya. Isang kapansin-pansing rekomendasyon ang nagpapayo sa mga kumpanya na mag-ingat sa pagpili ng mga dataset na ginagamit para sa pagsasanay AI modelo, pinipiling iwasan ang mga eksklusibong binubuo ng mga pagkakataon ng CSAM pati na rin ang nasa hustong gulang sekswal na nilalaman. Ang pag-iingat na ito ay mahalaga dahil sa generative AI's ugali na pagsamahin ang dalawang kategoryang ito.
Bukod pa rito, ang mga social media platform at mga search engine ay hinihimok na agad na alisin ang mga link sa mga website at app na nagpapadali sa pagpapakalat ng mga ipinagbabawal na larawan ng mga bata, sa gayon ay pinipigilan ang paglikha ng mga bagong pagkakataon ng AI-generated na CSAM online.
Mga Hamon sa Pagkilala sa Biktima
Ang pagtukoy sa biktima, na kadalasang inilalarawan bilang problema ng " karayom-sa-dayami ," ay lalong nagiging mahirap dahil sa paglaganap ng CSAM na nabuo ng AI. Kailangang suriin ng mga ahensya ng pagpapatupad ng batas ang napakaraming digital na nilalaman upang matukoy at maprotektahan ang mga mahihinang biktima, at ang lumalaking dami ng materyal na nabuo ng AI ay lalo lamang nagpapalala sa tambak na ito, na ginagawang mas masinsinan ang mapagkukunan at oras sa gawain.
Mga Pakikipagtulungang Pagsisikap at Kaligtasan ayon sa Mga Prinsipyo ng Disenyo
Kinikilala ang pagkaapurahan ng isyung ito, nangunguna AI mga kumpanya, kabilang ang OpenAI, Microsoft, Google, at Meta, ay nakipag-isa sa mga organisasyong pangkaligtasan ng bata tulad ng Thorn at All Tech Is Human upang labanan ang pagbuo at pagpapakalat ng AI-generated na CSAM. Ang groundbreaking na inisyatiba na ito ay humantong sa pagbuo ng "Kaligtasan ayon sa Disenyo” na mga prinsipyo, na naglalayong pigilan ang paglikha at pagkalat ng AI-generated na CSAM at iba pang mga sekswal na pinsala laban sa mga bata.
Ang mga pangunahing prinsipyong nakabalangkas sa papel na " Kaligtasan ayon sa Disenyo para sa Generative AI: Pag-iwas sa Sekswal na Pang-aabuso sa Bata " ay kinabibilangan ng:
| Prinsipyo | paglalarawan |
|---|---|
| Magbuo | Responsableng pinagkukunan ang mga dataset ng pagsasanay, tuklasin at alisin ang CSAM/CSEM, isama ang mga loop ng feedback, at tugunan ang masamang paggamit sa panahon ng pagbuo ng modelo. |
| lumawak | Maglabas ng mga modelo pagkatapos suriin ang kaligtasan ng bata, labanan ang mapang-abusong content, at hikayatin ang pagmamay-ari ng developer sa kaligtasan. |
| Panatilihin | Aktibong maunawaan at tumugon sa mga panganib sa kaligtasan ng bata, alisin ang AIG-CSAM na nabuo ng mga masasamang aktor, mamuhunan sa pananaliksik at mga solusyon sa hinaharap. |
Sa pamamagitan ng pagpapatupad ng mga prinsipyong ito sa lahat ng yugto ng AI pag-unlad, pag-deploy, at pagpapanatili, nilalayon ng mga kumpanya na gawing mas mahirap para sa masasamang aktor ang maling paggamit generative AI para sa sekswal na pang-aabuso sa mga bata.
Ang Papel ng Lehislasyon at Mga Tagagawa ng Patakaran
Ang mga gumagawa ng patakaran at mambabatas ay gumaganap din ng mahalagang papel sa pagtugon sa isyung ito. Ang REPORT Act, na ipinasa kamakailan ng Senado ng US, ay naglalayong pahusayin ang pag-uulat at paglaban sa online na pagsasamantalang sekswal sa bata sa pamamagitan ng pagpapahaba ng panahon ng pangangalaga ng mga provider para sa iniulat na nilalaman at pagbibigay ng limitadong pananagutan sa NCMEC's vendor.
Gayunpaman, ibinangon ang mga alalahanin tungkol sa potensyal para sa labis na pag-uulat, na maaaring higit pang magpahirap sa nasobrahan nang sistema ng CyberTipline at makagambala sa mga imbestigador na tumuon sa mga lehitimong kaso.
Habang patuloy na umuunlad ang banta ng CSAM na nabuo ng AI, mahalaga na magtulungan ang mga tagagawa ng patakaran at mga stakeholder sa industriya upang bumuo ng mga responsableng balangkas at alituntunin. Ang mga balangkas na ito ay dapat magbigay-daan sa mga kumpanya na legal at ligtas na subukan ang malalaking modelo ng wika upang mapabuti ang mga kakayahan sa pag-detect habang inuuna ang kaligtasan ng bata at proteksyon online.
Noong Marso 12 2024, si John Shehan, NCMEC's Ang Senior Vice President, Exploited Children Division at International Engagement, ay tumestigo sa malalalim na pinsala sa mga bata.
Basahin ang kanyang buong patotoo dito
Patuloy na Pagsisikap at Mga Hamon sa Hinaharap
Habang ang pangako sa mga prinsipyo ng Kaligtasan sa pamamagitan ng Disenyo ay isang makabuluhang hakbang pasulong, ang labanan laban sa AI-generated na CSAM ay malayong matapos. Sumang-ayon ang mga kumpanya na maglabas ng mga update sa pag-unlad sa kanilang mga pagsisikap, na tinitiyak ang transparency at pananagutan. Gayunpaman, ang mabilis na pag-unlad ng teknolohiya at ang patuloy na umuusbong na mga taktika ng masasamang aktor ay nangangailangan ng patuloy na pagbabantay at pakikipagtulungan sa lahat ng stakeholder, kabilang ang mga kumpanya ng teknolohiya, mga ahensyang nagpapatupad ng batas, at mga gumagawa ng patakaran.
Gaya ng pagbibigay-diin ni Dr. Rebecca Portnoff , Pangalawang Pangulo ng Data Science sa Thorn, “ Nasa sangandaan tayo ngayon ng generative AI, na may hawak na pangako at panganib sa ating gawain upang ipagtanggol ang mga bata mula sa sekswal na pang-aabuso .” Ang pagtugon sa hamong ito ay mangangailangan ng maraming aspeto ng diskarte, gamit ang parehong mga teknolohikal na solusyon at matatag na legal na balangkas upang protektahan ang mga pinakamahihirap na miyembro ng lipunan.
BONUS: Kunin ang aming $200"AI Mastery Toolkit” LIBRE kapag nag-sign up ka!
