Felemelkedése MI által generált, gyermekek szexuális zaklatását ábrázoló anyag (CSAM) jelentős veszélyt jelent az online biztonságra és a gyermekek jólétére. Az Eltűnt és Kizsákmányolt Gyermekek Nemzeti Központja (NCMEC) szerint a CSAM-jelentések a A CyberTipline 12%-kal nőtt 2023-ban, és elérte a 35.9 millió bejelentést.. Ezt a riasztó növekedést tovább súlyosbítja a mesterséges intelligencia által generált CSAM beáramlása, amely nemcsak az eredeti tartalomban ábrázolt gyerekek áldozatává teszi, hanem új utakat is teremt a gyermekek szexuális zaklatásának kizsákmányolására és normalizálására.
A probléma köre
A National Center for Missing and Exploited Children (NCMEC) szerint a CyberTipline, a CSAM bejelentésének létfontosságú forrása 35.9-ban elképesztően 2023 millió bejelentés érkezett, ami 12%-os növekedést jelent az előző évhez képest. A jelentések számának ezt a megugrását tovább súlyosbítja a beáramlás AI által generált CSAM, amely egyedülálló kihívásokat jelent a valódi áldozatok azonosításában, valamint a valódi és a valós áldozatok megkülönböztetésében szintetikus tartalom.
A mesterséges intelligencia által generált szexuális zaklatással készült anyagok (CSAM) elterjedése nemcsak a hatalmas mennyiségű digitális tartalom átfésülésével megbízott bűnüldöző szerveket terheli, hanem aggodalmat is vet fel a kiszolgáltatott személyek, különösen a gyermekek potenciális kizsákmányolása miatt. AI A technológia folyamatos fejlődésével egyre nő az elkövetők általi visszaélések kockázata, ami proaktív intézkedéseket tesz szükségessé e fenyegetés leküzdésére.
Ajánlások és stratégiák
A mesterséges intelligencia által generált CSAM fenyegetésének leküzdésére iparági szakértők és gyermekbiztonsági szervezetek számos ajánlást és stratégiát javasoltak. Az egyik figyelemre méltó ajánlás azt tanácsolja a vállalatoknak, hogy legyenek óvatosak a képzéshez használt adatkészletek kiválasztásánál AI modellek, úgy döntött, hogy elkerüli azokat, amelyek kizárólag a CSAM eseteit, valamint a felnőtteket tartalmazzák szexuális tartalomEz az óvintézkedés elengedhetetlen a generatív mesterséges intelligencia miatt.'s hajlamosak összekeverni ezt a két kategóriát.
Ezenkívül a közösségi média platformjait és keresőmotorjait arra kérik, hogy haladéktalanul távolítsák el a gyermekekről készült tiltott képek terjesztését elősegítő webhelyekre és alkalmazásokra mutató hivatkozásokat, meghiúsítva ezzel a mesterséges intelligencia által generált CSAM új példányainak online létrehozását.
Kihívások az áldozatazonosításban
Áldozatazonosítás, amelyet gyakran úgy írnak le, mint „tű a szénakazalban” probléma egyre nagyobb kihívást jelent az AI által generált CSAM elterjedése miatt. A bűnüldöző szerveknek hatalmas mennyiségű digitális tartalom át kell szitálniuk a kiszolgáltatott áldozatok azonosítása és védelme érdekében, és a mesterséges intelligencia által generált anyagok növekvő mennyisége csak tovább növeli ezt a szénakazalt, ami erőforrás- és időigényesebbé teszi a feladatot.
Együttműködési erőfeszítések és biztonság tervezési elvek szerint
Felismerve e kérdés sürgősségét, vezető szerepet tölt be AI cégek, köztük OpenAI, a Microsoft, a Google és a Meta olyan gyermekbiztonsági szervezetekkel egyesült, mint a Thorn és az All Tech Is Human, hogy leküzdjék a mesterséges intelligencia által generált CSAM létrehozását és terjesztését. Ez az úttörő kezdeményezés a „Tervezett biztonság” elveket, amelyek célja, hogy megakadályozzák a mesterséges intelligencia által generált CSAM és más gyermekek elleni szexuális ártalmak létrejöttét és terjedését.
A "Tervezett biztonság a generatív mesterséges intelligencia számára: A gyermekek szexuális zaklatásának megelőzéseA papír a következőket tartalmazza:
| Alapelv | Leírás |
|---|---|
| Fejleszteni | Felelősségteljesen szerezze be a képzési adatkészleteket, észlelje és távolítsa el a CSAM/CSEM-et, építsen be visszacsatolási hurkokat, és kezelje a versenytársakkal kapcsolatos visszaéléseket a modellfejlesztés során. |
| Telepítése | A gyermekek biztonságának értékelése után adjon ki modelleket, küzdjön le a sértő tartalommal, és ösztönözze a fejlesztők biztonságát. |
| Fenntart | Aktívan ismerje meg és reagáljon a gyermekbiztonsági kockázatokra, távolítsa el a rossz szereplők által generált AIG-CSAM-ot, fektessen be kutatásba és jövőbeli megoldásokba. |
Ezen elvek minden szakaszában történő megvalósításával AI fejlesztés, telepítés és karbantartás terén a vállalatok célja, hogy megnehezítsék a rosszindulatú szereplők számára a visszaéléseket generatív AI gyermekek szexuális zaklatása miatt.
A jogalkotás és a politikai döntéshozók szerepe
A politikai döntéshozók és a törvényhozók is kulcsszerepet játszanak e probléma kezelésében. Az Egyesült Államok Szenátusa által nemrégiben elfogadott REPORT Act (JELENTÉSI Törvény) célja, hogy fokozza a gyermekek online szexuális kizsákmányolásának bejelentését és az ellene való küzdelmet azáltal, hogy meghosszabbítja a szolgáltatók megőrzési idejét a bejelentett tartalmak esetében, és korlátozott felelősséget biztosít az NCMEC számára.'s gyártók.
Aggodalmak merültek fel azonban a túlzott bejelentések lehetőségével kapcsolatban, ami tovább terhelheti az amúgy is túlterhelt CyberTipline rendszert, és elvonhatja a nyomozókat attól, hogy a jogos esetekre összpontosítsanak.
Mint a fenyegetés A mesterséges intelligencia által generált CSAM folyamatosan fejlődik, elengedhetetlen, hogy a politikai döntéshozók és az iparági szereplők együttműködjenek a felelős keretek és iránymutatások kidolgozása érdekében. Ezeknek a kereteknek lehetővé kell tenniük a vállalatok számára a legális és biztonságos tesztelést nagy nyelvi modellek az észlelési képességek fejlesztése, miközben előtérbe helyezi a gyermekek biztonságát és az online védelmet.
12. március 2024-én John Shehan, NCMEC's A Kizsákmányolt Gyermekek Osztályának és Nemzetközi Kapcsolatokért felelős alelnöke a gyermekeket ért deepfake károkról tett tanúvallomást.
Olvassa el teljes vallomását itt
Folyamatos erőfeszítések és jövőbeli kihívások
Bár a Safety by Design elvek iránti elkötelezettség jelentős előrelépést jelent, a mesterséges intelligencia által generált CSAM elleni küzdelem még korántsem ért véget. A vállalatok megállapodtak abban, hogy közzéteszik az erőfeszítéseikről elért előrehaladásról szóló frissítéseket, biztosítva az átláthatóságot és az elszámoltathatóságot. A technológiai fejlődés gyors üteme és a rossz szereplők folyamatosan fejlődő taktikái azonban folyamatos éberséget és együttműködést tesznek szükségessé az összes érdekelt fél között, beleértve a technológiai vállalatokat, a bűnüldöző szerveket és a döntéshozókat.
As Dr. Rebecca Portnoff, Alelnöke Data Science at Thorn, hangsúlyozza: "Válaszúton állunk a generatív mesterséges intelligenciával, amely ígéretet és kockázatot is rejt magában a gyermekek szexuális visszaélésekkel szembeni védelmében végzett munkánk során“. Ennek a kihívásnak a megválaszolása sokoldalú megközelítést igényel, amely egyszerre hasznosítja a technológiai megoldásokat és a robusztusságot jogi keretek hogy megvédjék a társadalom legkiszolgáltatottabb tagjait.
BÓNUSZ: Szerezd meg a 200 dolláros "AI „Mastery Toolkit” INGYENES regisztrációval!
