ხელოვნური ინტელექტის მიერ გენერირებული ბავშვზე სექსუალური ძალადობის შემცველი მასალის (CSAM) ზრდა მნიშვნელოვან საფრთხეს უქმნის ონლაინ უსაფრთხოებას და ბავშვების კეთილდღეობას . დაკარგული და ექსპლუატირებული ბავშვების ეროვნული ცენტრის (NCMEC) მონაცემებით, მათი CyberTipline-ის მეშვეობით მიღებული CSAM-ის შესახებ შეტყობინებები 2023 წელს 12%-ით გაიზარდა და განსაცვიფრებელ 35.9 მილიონ შეტყობინებას მიაღწია . ეს საგანგაშო ზრდა კიდევ უფრო გამწვავებულია ხელოვნური ინტელექტის მიერ გენერირებული CSAM-ის შემოდინებით, რომელიც არა მხოლოდ ორიგინალურ კონტენტში ასახულ ბავშვებს ხელახლა აზიანებს, არამედ ბავშვზე სექსუალური ძალადობის ექსპლუატაციისა და ნორმალიზების ახალ გზებს ქმნის.
პრობლემის ფარგლები
დაკარგული და ექსპლუატირებული ბავშვების ეროვნული ცენტრის (NCMEC) მონაცემებით, CyberTipline-მა, რომელიც CSAM-ის შესახებ ინფორმაციის მიწოდების სასიცოცხლოდ მნიშვნელოვან რესურსს წარმოადგენს, 2023 წელს განსაცვიფრებელი 35.9 მილიონი შეტყობინება მიიღო, რაც წინა წელთან შედარებით 12%-ით მეტია. შეტყობინებების ამ ზრდას კიდევ უფრო ამძაფრებს ხელოვნური ინტელექტის მიერ გენერირებული CSAM-ის შემოდინება, რაც უნიკალურ სირთულეებს ქმნის რეალური მსხვერპლის იდენტიფიცირებისა და რეალური და სინთეზური კონტენტის გარჩევის თვალსაზრისით.
ხელოვნური ინტელექტის მიერ გენერირებული კომპიუტერული მედიის (CSAM) გავრცელება არა მხოლოდ ტვირთად აწვება სამართალდამცავ ორგანოებს, რომლებსაც დიდი რაოდენობით ციფრული კონტენტის გაცნობა ევალებათ, არამედ შეშფოთებას იწვევს დაუცველი პირების, განსაკუთრებით ბავშვების, პოტენციური ექსპლუატაციის შესახებ. AI ტექნოლოგიების განვითარებასთან ერთად, დამნაშავეების მიერ მათი ბოროტად გამოყენების რისკი იზრდება, რაც ამ საფრთხესთან საბრძოლველად პროაქტიული ზომების მიღებას მოითხოვს.
რეკომენდაციები და სტრატეგიები
ხელოვნური ინტელექტის გამომუშავებული CSAM-ის საფრთხის წინააღმდეგ საბრძოლველად, ინდუსტრიის ექსპერტებმა და ბავშვთა უსაფრთხოების ორგანიზაციებმა შემოგვთავაზეს რამდენიმე რეკომენდაცია და სტრატეგია. ერთი მნიშვნელოვანი რეკომენდაცია კომპანიებს ურჩევს, გამოიჩინონ სიფრთხილე ტრენინგისთვის გამოყენებული მონაცემთა ნაკრების შერჩევაში AI მოდელები, აირჩიონ თავიდან აცილება ისეთებისგან, რომლებიც ექსკლუზიურად შედგებიან როგორც CSAM, ასევე ზრდასრული შემთხვევებისგან სექსუალური შინაარსიეს სიფრთხილის ზომა აუცილებელია გენერაციული ხელოვნური ინტელექტის გამო.'s ამ ორი კატეგორიის გაერთიანების ტენდენცია.
გარდა ამისა, სოციალური მედიის პლატფორმებს და საძიებო სისტემებს მოუწოდებენ, სასწრაფოდ წაშალონ ბმულები ვებსაიტებზე და აპებზე, რომლებიც ხელს უწყობენ ბავშვების უკანონო სურათების გავრცელებას, რითაც ხელს უშლიან AI-ის მიერ გენერირებული CSAM-ის ახალი შემთხვევების შექმნას ონლაინ.
გამოწვევები მსხვერპლის იდენტიფიკაციაში
მსხვერპლის იდენტიფიკაცია, რომელსაც ხშირად „ თივაში ნემსის “ პრობლემას უწოდებენ , სულ უფრო რთული ხდება ხელოვნური ინტელექტით გენერირებული CSAM-ის გავრცელების გამო. სამართალდამცავ ორგანოებს დაუცველი მსხვერპლის იდენტიფიცირებისა და დაცვის მიზნით ციფრული კონტენტის უზარმაზარი მოცულობის გაანალიზება უწევთ, ხოლო ხელოვნური ინტელექტით გენერირებული მასალის მზარდი მოცულობა მხოლოდ ამ პრობლემას ამძიმებს, რაც ამოცანას უფრო რესურსების მომთხოვნს და დროის მომთხოვნს ხდის.
ერთობლივი ძალისხმევა და უსაფრთხოება დიზაინის პრინციპებით
ამ საკითხის აქტუალურობის აღიარებით, წამყვანი AI კომპანიები, მათ შორის OpenAI, Microsoft, Google და Meta, გაერთიანდნენ ბავშვთა უსაფრთხოების ორგანიზაციებთან, როგორიცაა Thorn და All Tech Is Human, რათა ებრძოლონ ხელოვნური ინტელექტის გენერირებული CSAM-ის წარმოქმნას და გავრცელებას. ამ ინოვაციურმა ინიციატივამ განაპირობა "უსაფრთხოება დიზაინით” პრინციპები, რომლებიც მიზნად ისახავს ბავშვების მიმართ ხელოვნური ინტელექტის გენერირებული CSAM-ის და სხვა სექსუალური ზიანის შექმნისა და გავრცელების პრევენციას.
ნაშრომში „ უსაფრთხოება გენერაციული ხელოვნური ინტელექტის დიზაინით: ბავშვზე სექსუალური ძალადობის პრევენცია “ ასახული ძირითადი პრინციპები მოიცავს:
| პრინციპი | აღწერა |
|---|---|
| განვითარება | პასუხისმგებლობით შეაგროვეთ სასწავლო მონაცემთა ნაკრები, აღმოაჩინეთ და წაშალეთ CSAM/CSEM, შეიტანეთ უკუკავშირის მარყუჟები და მიმართეთ მოწინააღმდეგეების ბოროტად გამოყენებას მოდელის შემუშავებისას. |
| განათავსეთ | გამოუშვით მოდელები ბავშვების უსაფრთხოების შეფასების შემდეგ, ებრძოლეთ შეურაცხმყოფელ კონტენტს და წაახალისეთ დეველოპერების მფლობელობა უსაფრთხოებაზე. |
| შენარჩუნება | აქტიურად გააცნობიერეთ და უპასუხეთ ბავშვის უსაფრთხოების რისკებს, წაშალეთ ცუდი მოქმედი პირების მიერ წარმოქმნილი AIG-CSAM, ჩადეთ ინვესტიცია კვლევაში და სამომავლო გადაწყვეტილებებში. |
ამ პრინციპების ყველა ეტაპზე განხორციელებით, AI განვითარების, განლაგებისა და მოვლა-პატრონობის მიზნით, კომპანიები ცდილობენ, გაართულონ ბოროტად გამოყენება ცუდი აქტორებისთვის. გენერაციული AI ბავშვების სექსუალური ძალადობისთვის.
კანონმდებლობისა და პოლიტიკოსების როლი
პოლიტიკის შემქმნელები და კანონმდებლები ასევე მნიშვნელოვან როლს ასრულებენ ამ საკითხის მოგვარებაში. აშშ-ის სენატის მიერ ცოტა ხნის წინ მიღებული REPORT აქტი მიზნად ისახავს ბავშვთა სექსუალური ექსპლუატაციის შესახებ ონლაინ შეტყობინებების გაგზავნისა და მათ წინააღმდეგ ბრძოლის გაუმჯობესებას, პროვაიდერების მიერ გავრცელებულ კონტენტზე შენახვის ვადის გახანგრძლივებით და NCMEC-ისთვის შეზღუდული პასუხისმგებლობის მინიჭებით.'s გამყიდველები.
თუმცა, გაჩნდა შეშფოთება გადაჭარბებული მოხსენების პოტენციალის შესახებ, რამაც შეიძლება კიდევ უფრო დაძაბოს უკვე გადატვირთული CyberTipline სისტემა და გადაიტანოს გამომძიებლების ყურადღება ლეგიტიმურ საქმეებზე ფოკუსირებისგან.
ვინაიდან ხელოვნური ინტელექტის მიერ გენერირებული CSAM-ის საფრთხე აგრძელებს ევოლუციას, აუცილებელია, რომ პოლიტიკის შემქმნელებმა და ინდუსტრიის დაინტერესებულმა მხარეებმა ითანამშრომლონ პასუხისმგებლიანი ჩარჩოებისა და სახელმძღვანელო პრინციპების შესამუშავებლად. ამ ჩარჩოებმა კომპანიებს საშუალება უნდა მისცენ, კანონიერად და უსაფრთხოდ გამოსცადონ დიდი ენობრივი მოდელები აღმოჩენის შესაძლებლობების გასაუმჯობესებლად, ამავდროულად, პრიორიტეტად დაასახელონ ბავშვთა უსაფრთხოება და ონლაინ დაცვა.
12 წლის 2024 მარტს, ჯონ შეჰანი, NCMEC's ექსპლუატირებული ბავშვების განყოფილებისა და საერთაშორისო ჩართულობის უფროსმა ვიცე-პრეზიდენტმა ჩვენება მისცა ბავშვებისთვის მიყენებული ღრმა ყალბი ზიანის შესახებ.
წაიკითხეთ მისი სრული ჩვენება აქ
მიმდინარე ძალისხმევა და მომავალი გამოწვევები
მიუხედავად იმისა, რომ Safety by Design პრინციპებისადმი ერთგულება მნიშვნელოვანი წინგადადგმული ნაბიჯია, AI-ის მიერ გენერირებული CSAM-ის წინააღმდეგ ბრძოლა ჯერ კიდევ არ არის დასრულებული. კომპანიები შეთანხმდნენ გამოაქვეყნონ პროგრესის განახლებები თავიანთი ძალისხმევის შესახებ, რაც უზრუნველყოფს გამჭვირვალობას და ანგარიშვალდებულებას. თუმცა, ტექნოლოგიური წინსვლის სწრაფი ტემპი და ცუდი მსახიობების მუდმივად განვითარებადი ტაქტიკა მოითხოვს მუდმივ სიფხიზლეს და თანამშრომლობას ყველა დაინტერესებულ მხარეს შორის, მათ შორის ტექნოლოგიურ კომპანიებს, სამართალდამცავ ორგანოებსა და პოლიტიკის შემქმნელებს შორის.
როგორც Thorn-ის მონაცემთა მეცნიერების ვიცე-პრეზიდენტი, დოქტორი რებეკა პორტნოფი , ხაზს უსვამს: „ ჩვენ გენერაციული ხელოვნური ინტელექტის გზაჯვარედინზე ვდგავართ, რომელიც ბავშვების სექსუალური ძალადობისგან დაცვის მიზნით ჩვენს საქმიანობაში როგორც იმედისმომცემი, ასევე რისკიანია “. ამ გამოწვევის გადაჭრას მრავალმხრივი მიდგომა დასჭირდება, რომელიც საზოგადოების ყველაზე დაუცველი წევრების დასაცავად როგორც ტექნოლოგიურ გადაწყვეტილებებს, ასევე ძლიერ სამართლებრივ ჩარჩოებს გამოიყენებს.
BONUS: მიიღეთ ჩვენი 200 დოლარიAI „ოსტატობის ინსტრუმენტების ნაკრები“ უფასოა რეგისტრაციის შემდეგ!
