microsoft's Nakipagsosyo ang Bing search engine sa StopNCII.org upang harapin ang lumalaking banta ng non-consensual intimate imagery (NCII) at AI deepfakes online. Ang pakikipagtulungang ito ay nagmamarka ng isang makabuluhang milestone sa industriya ng tech's mga pagsisikap na protektahan ang mga indibidwal, partikular ang mga babae at babae, mula sa mapangwasak na epekto ng intimate image abuse.
microsoft's Strategic Partnership sa StopNCII
Ang StopNCII.org, na pinapatakbo ng SWGfL, isang kawanggawa na nakabase sa UK, ay gumagamit ng makabagong teknolohiya na nagbibigay-daan sa mga gumagamit na lumikha ng mga digital fingerprint o " hash " ng kanilang mga matalik na larawan nang hindi ina-upload ang aktwal na nilalaman. Ang mga hash na ito ay ibinabahagi sa mga kalahok na kumpanya upang matukoy at maalis ang mga larawan mula sa kanilang mga serbisyo. Ang pagsasama ng Microsoft ng sistemang ito sa Bing ang siyang dahilan kung bakit ito ang unang search engine na sumali sa inisyatibo.
Nagpakita na ng magagandang resulta ang pakikipagsosyo. Sa pagtatapos ng Agosto, kumilos na ang Microsoft sa 268,899 na mga larawang na-flag sa pamamagitan ng StopNCII database , na pumipigil sa mga ito na lumabas sa mga resulta ng paghahanap ng imahe sa Bing . Ang pamamaraang ito na nakasentro sa biktima ay tumutugon sa mga alalahanin na ang pag-uulat lamang ng gumagamit ay maaaring hindi epektibong masukat o sapat na matugunan ang panganib ng pag-access ng imahe sa pamamagitan ng mga search engine.
Ang pangako ng Microsoft ay higit pa sa pakikipagsosyo na ito. Nagpatupad ang kumpanya ng isang komprehensibong patakaran na nagbabawal sa pagbabahagi o paglikha ng mga intimate na larawan nang walang pahintulot sa lahat ng serbisyo nito. Nagpakilala rin ito ng isang sentralisadong portal ng pag-uulat para sa mga gumagamit na humiling ng pag-alis ng nilalaman ng NCII at mga opsyon sa pag-uulat sa loob ng produkto para sa ilang partikular na serbisyo tulad ng paglalaro at Bing.
Ang Lumalagong Banta ng Deepfakes
Ang pagtaas ng AI-generated deepfakes ay nagpalakas ng pangangailangan ng madaliang pagtugon sa NCII. Kinikilala iyon ng Microsoft generative AI ang mga teknolohiya ay maaaring potensyal na magpalala sa pinsalang dulot ng intimate na pang-aabuso sa imahe. Bilang tugon, ang kumpanya ay nagpatupad ng mga hakbang upang maiwasan ang paglikha ng tahasang sekswal na nilalaman sa pamamagitan nito AI mga serbisyo.
Ang inisyatiba na ito ay nakaayon sa Microsoft's mas malawak na pagsisikap na labanan ang mga deepfakes at disinformation na nauugnay sa halalan. Nangako ang kumpanya na tutulong na maiwasan ang mapanlinlang AI nilalaman mula sa panghihimasok sa mga pandaigdigang halalan sa 2024. Plano ng Microsoft na maglunsad ng isang kampanya ng kamalayan sa publiko sa US na naghihikayat sa mga botante na maging mapagbantay laban sa malalim na pagmamanipula, na nagsusulong ng isang "Suriin, Suriin muli at Bumoto" lapitan.
Habang patuloy na umuunlad ang banta ng mga deepfakes, isinusulong ng Microsoft ang mga pagbabago sa patakaran at pambatasan upang pigilan ang masasamang aktor at matiyak ang hustisya para sa mga biktima. Ang kumpanya ay sumali sa isang bagong multistakeholder working group na nakatuon sa pagbuo ng pinakamahuhusay na kagawian upang labanan ang NCII.
Ang pakikipagsosyo sa pagitan ng Microsoft Bing at StopNCII.org ay kumakatawan sa isang mahalagang hakbang pasulong sa paglaban sa pang-aabuso at maling impormasyon online. Sa pamamagitan ng paggamit ng makabagong teknolohiya at pagpapalaganap ng kolaborasyon sa buong industriya ng teknolohiya, nagtatakda ang Microsoft ng isang bagong pamantayan para sa pagprotekta sa privacy ng user at paglaban sa pagkalat ng mapaminsalang nilalaman online.
BONUS: Kunin ang aming $200"AI Mastery Toolkit” LIBRE kapag nag-sign up ka!
