Η άνοδος του Υλικό σεξουαλικής κακοποίησης παιδιών που δημιουργήθηκε από AI (CSAM) αποτελεί σημαντική απειλή για την ασφάλεια στο διαδίκτυο και την ευημερία των παιδιών. Σύμφωνα με το Εθνικό Κέντρο για τα Εξαφανισμένα και Εκμεταλλευόμενα Παιδιά (NCMEC), οι αναφορές του CSAM που ελήφθησαν μέσω του Το CyberTipline αυξήθηκε κατά 12% το 2023, φτάνοντας τα εκπληκτικά 35.9 εκατομμύρια αναφορές. Αυτή η ανησυχητική αύξηση επιδεινώνεται από την εισροή CSAM που δημιουργείται από την τεχνητή νοημοσύνη, η οποία όχι μόνο αναζωπυρώνει τα παιδιά που απεικονίζονται στο αρχικό περιεχόμενο, αλλά δημιουργεί επίσης νέους δρόμους για την εκμετάλλευση και την εξομάλυνση της σεξουαλικής κακοποίησης παιδιών.
Το εύρος του προβλήματος
Σύμφωνα με το Εθνικό Κέντρο για τα Εξαφανισμένα και Εκμεταλλευόμενα Παιδιά (NCMEC), το CyberTipline, μια ζωτικής σημασίας πηγή για την αναφορά CSAM, έλαβε εκπληκτικές 35.9 εκατομμύρια αναφορές το 2023, σημειώνοντας αύξηση 12% από το προηγούμενο έτος. Αυτή η αύξηση των αναφορών επιδεινώνεται από την εισροή των CSAM που δημιουργείται από AI, που θέτει μοναδικές προκλήσεις στον εντοπισμό γνήσιων θυμάτων και στη διάκριση μεταξύ πραγματικών και συνθετικό περιεχόμενο.
Ο πολλαπλασιασμός των ηλεκτρονικών υπολογιστών CSAM που παράγονται από τεχνητή νοημοσύνη όχι μόνο επιβαρύνει τις υπηρεσίες επιβολής του νόμου που είναι επιφορτισμένες με την αναζήτηση τεράστιων ποσοτήτων ψηφιακού περιεχομένου, αλλά εγείρει επίσης ανησυχίες σχετικά με την πιθανή εκμετάλλευση ευάλωτων ατόμων, ιδίως παιδιών. AI Καθώς η τεχνολογία συνεχίζει να εξελίσσεται, ο κίνδυνος κακής χρήσης από τους δράστες αυξάνεται, γεγονός που καθιστά αναγκαία τη λήψη προληπτικών μέτρων για την καταπολέμηση αυτής της απειλής.
Συστάσεις και Στρατηγικές
Για την καταπολέμηση της απειλής του CSAM που δημιουργείται από την τεχνητή νοημοσύνη, ειδικοί του κλάδου και οργανισμοί για την ασφάλεια των παιδιών έχουν προτείνει διάφορες συστάσεις και στρατηγικές. Μια αξιοσημείωτη σύσταση συμβουλεύει τις εταιρείες να είναι προσεκτικές στην επιλογή συνόλων δεδομένων που χρησιμοποιούνται για εκπαίδευση AI μοντέλα, επιλέγοντας να αποφύγετε εκείνα που αποτελούνται αποκλειστικά από περιπτώσεις CSAM καθώς και από ενήλικες σεξουαλικό περιεχόμενοΑυτή η προφύλαξη είναι απαραίτητη λόγω της γενετικής τεχνητής νοημοσύνης.'s τάση συγχώνευσης αυτών των δύο κατηγοριών.
Επιπλέον, οι πλατφόρμες κοινωνικών μέσων και οι μηχανές αναζήτησης καλούνται να αφαιρέσουν αμέσως συνδέσμους σε ιστότοπους και εφαρμογές που διευκολύνουν τη διάδοση παράνομων εικόνων παιδιών, εμποδίζοντας έτσι τη δημιουργία νέων περιπτώσεων CSAM που δημιουργείται από AI στο διαδίκτυο
Προκλήσεις στην Ταυτοποίηση Θυμάτων
Ταυτοποίηση του θύματος, που συχνά περιγράφεται ως «βελόνα στα άχυραΤο πρόβλημα, έχει γίνει όλο και πιο προκλητικό λόγω της εξάπλωσης του CSAM που δημιουργείται από την τεχνητή νοημοσύνη. Οι υπηρεσίες επιβολής του νόμου πρέπει να αναζητήσουν τεράστιες ποσότητες ψηφιακού περιεχομένου για να εντοπίσουν και να προστατεύσουν τα ευάλωτα θύματα, και ο αυξανόμενος όγκος υλικού που δημιουργείται από την τεχνητή νοημοσύνη προσθέτει μόνο σε αυτό το άχυρο, καθιστώντας το έργο πιο εντατικό και χρονοβόρο.
Συνεργατικές προσπάθειες και ασφάλεια βάσει αρχών σχεδιασμού
Αναγνωρίζοντας τον επείγοντα χαρακτήρα του ζητήματος, οδηγώντας AI εταιρείες, συμπεριλαμβανομένων OpenAI, η Microsoft, η Google και η Meta, έχουν ενωθεί με οργανισμούς για την ασφάλεια των παιδιών όπως η Thorn και η All Tech Is Human για να καταπολεμήσουν τη δημιουργία και τη διάδοση του CSAM που δημιουργείται από την τεχνητή νοημοσύνη. Αυτή η πρωτοποριακή πρωτοβουλία οδήγησε στην ανάπτυξη «Safety by DesignΑρχές, οι οποίες στοχεύουν στην πρόληψη της δημιουργίας και της διάδοσης CSAM που δημιουργείται από AI και άλλων σεξουαλικών βλαβών κατά των παιδιών.
Οι βασικές αρχές που περιγράφονται στο «Safety by Design for Generative AI: Πρόληψη της σεξουαλικής κακοποίησης παιδιώνΤο χαρτί περιλαμβάνει:
| Αρχή | Περιγραφή |
|---|---|
| Ανάπτυξη | Προμηθευτείτε υπεύθυνα σύνολα δεδομένων εκπαίδευσης, εντοπίστε και αφαιρέστε CSAM/CSEM, ενσωματώστε βρόχους ανατροφοδότησης και αντιμετωπίστε την κατάχρηση αντιπάλου κατά την ανάπτυξη του μοντέλου. |
| Ανάπτυξη | Κυκλοφορήστε μοντέλα μετά από αξιολόγηση για την ασφάλεια των παιδιών, καταπολεμήστε το καταχρηστικό περιεχόμενο και ενθαρρύνετε την ιδιοκτησία της ασφάλειας από τους προγραμματιστές. |
| Διατηρήστε | Κατανοήστε ενεργά και ανταποκριθείτε στους κινδύνους για την ασφάλεια των παιδιών, αφαιρέστε το AIG-CSAM που δημιουργείται από κακούς παράγοντες, επενδύστε στην έρευνα και μελλοντικές λύσεις. |
Εφαρμόζοντας αυτές τις αρχές σε όλα τα στάδια της AI ανάπτυξη, ανάπτυξη και συντήρηση, οι εταιρείες στοχεύουν να καταστήσουν πιο δύσκολη την κατάχρηση από τους κακούς παράγοντες γενετική AI για τη σεξουαλική κακοποίηση παιδιών.
Ο ρόλος της νομοθεσίας και των υπευθύνων χάραξης πολιτικής
Οι υπεύθυνοι χάραξης πολιτικής και οι νομοθέτες διαδραματίζουν επίσης κρίσιμο ρόλο στην αντιμετώπιση αυτού του ζητήματος. Ο νόμος REPORT, που ψηφίστηκε πρόσφατα από τη Γερουσία των ΗΠΑ, στοχεύει στην ενίσχυση της αναφοράς και της καταπολέμησης της διαδικτυακής σεξουαλικής εκμετάλλευσης παιδιών, παρατείνοντας την περίοδο διατήρησης του αναφερόμενου περιεχομένου από τους παρόχους και παρέχοντας περιορισμένη ευθύνη στο NCMEC.'s πωλητές.
Ωστόσο, έχουν εκφραστεί ανησυχίες σχετικά με την πιθανότητα υπερβολικής αναφοράς, η οποία θα μπορούσε να πιέσει περαιτέρω το ήδη υπερφορτωμένο σύστημα CyberTipline και να αποσπάσει την προσοχή των ερευνητών από την εστίαση σε νόμιμες υποθέσεις.
Ως απειλή του Το CSAM που δημιουργείται από AI συνεχίζει να εξελίσσεται, Είναι επιτακτική ανάγκη οι υπεύθυνοι χάραξης πολιτικής και τα ενδιαφερόμενα μέρη του κλάδου να συνεργαστούν για να αναπτύξουν υπεύθυνα πλαίσια και κατευθυντήριες γραμμές. Αυτά τα πλαίσια θα πρέπει να επιτρέπουν στις εταιρείες να δοκιμάζουν νόμιμα και με ασφάλεια μεγάλα γλωσσικά μοντέλα για τη βελτίωση των δυνατοτήτων ανίχνευσης, δίνοντας παράλληλα προτεραιότητα στην ασφάλεια των παιδιών και στην ηλεκτρονική προστασία.
Στις 12 Μαρτίου 2024, ο John Shehan, NCMEC's Ο Ανώτερος Αντιπρόεδρος του Τμήματος Εκμεταλλευόμενων Παιδιών και Διεθνούς Εμπλοκής, κατέθεσε για τις ψευδείς βλάβες σε παιδιά.
Διαβάστε ολόκληρη την κατάθεσή του εδώ
Συνεχείς προσπάθειες και μελλοντικές προκλήσεις
Ενώ η δέσμευση στις αρχές της Ασφάλειας μέσω Σχεδιασμού είναι ένα σημαντικό βήμα προς τα εμπρός, η μάχη ενάντια στο CSAM που δημιουργείται από την τεχνητή νοημοσύνη απέχει πολύ από το να έχει τελειώσει. Οι εταιρείες συμφώνησαν να δημοσιεύσουν ενημερώσεις προόδου σχετικά με τις προσπάθειές τους, διασφαλίζοντας τη διαφάνεια και τη λογοδοσία. Ωστόσο, ο γρήγορος ρυθμός των τεχνολογικών εξελίξεων και οι διαρκώς εξελισσόμενες τακτικές των κακών παραγόντων απαιτούν συνεχή επαγρύπνηση και συνεργασία μεταξύ όλων των ενδιαφερομένων, συμπεριλαμβανομένων των εταιρειών τεχνολογίας, των υπηρεσιών επιβολής του νόμου και των υπευθύνων χάραξης πολιτικής.
As Δρ Ρεμπέκα Πόρτνοφ, Αντιπρόεδρος της Data Science στο Thorn, τονίζει»,Βρισκόμαστε σε ένα σταυροδρόμι με τη γενετική τεχνητή νοημοσύνη, η οποία έχει και υπόσχεση και κίνδυνο στην εργασία μας για την υπεράσπιση των παιδιών από τη σεξουαλική κακοποίηση". Η αντιμετώπιση αυτής της πρόκλησης θα απαιτήσει μια πολύπλευρη προσέγγιση, αξιοποιώντας τόσο τεχνολογικές λύσεις όσο και ισχυρές νομικά πλαίσια για την προστασία των πιο ευάλωτων μελών της κοινωνίας.
BONUS: Πάρτε τα 200 δολάρια μας "AI «Εργαλειοθήκη Mastery» ΔΩΡΕΑΝ όταν εγγραφείτε!
