კერძო სკოლა ლანკასტერში, პენსილვანიის შტატში, ეროვნული ყურადღების ცენტრში აღმოჩნდა შოკის გამო AI შიშველი ფოტოების სკანდალი სტუდენტების გენერირებულ სურათებს მოიცავს. ამ დაპირისპირებამ გამოიწვია რსკოლის მთავარი ხელმძღვანელების გადაყენება და გამოიწვია პროტესტი, სისხლის სამართლის გამოძიება და ფართო აღშფოთება მშობლებსა და სტუდენტებში. ინციდენტი ხაზს უსვამს ხელოვნური ინტელექტის ტექნოლოგიის ბნელ მხარეს და მის პოტენციურ ბოროტად გამოყენებას, განსაკუთრებით საგანმანათლებლო დაწესებულებებში.
ის AI შიშველი ფოტოების სკანდალი აფეთქდა
დაპირისპირება ირგვლივ იმართება ლანკასტერის ქვეყნის ყოველდღიური სკოლა (LCDS), კერძო დაწესებულება, რომელიც ემსახურება დაახლოებით 600 მოსწავლეს საბავშვო ბაღიდან საშუალო სკოლამდე. 2023 წლის ნოემბერში, ანონიმურმა სტუდენტმა წარადგინა რჩევა "Safe2Say Something” პროგრამა, სახელმწიფო პლატფორმა უსაფრთხოების პრობლემების შესახებ მოხსენებისთვის. წვერი ამტკიცებდა, რომ მამაკაცი სტუდენტი იყენებდა AI ინსტრუმენტები, რომლებიც ციფრული მანიპულირებით ქალი თანაკლასელების აშკარა გამოსახულებების შესაქმნელად გამოიყენება. მათი ფოტოები, რათა ისინი შიშველი გამოჩნდნენ.
ბრალდების სიმძიმის მიუხედავად, რაიმე მნიშვნელოვანი ქმედების განხორციელებას თვეები დასჭირდა. როგორც ამბობენ, სკოლის ხელმძღვანელობამ არ შეატყობინა სამართალდამცავ ორგანოებს და არ მიიღო დაუყოვნებლივი ზომები მსხვერპლთა დასაცავად. ამ დაგვიანებამ საშუალება მისცა მოსწავლე ბიჭს, მეტი თანაკლასელი დაეკავებინა, რის შედეგადაც ხელოვნური ინტელექტის მიერ გენერირებული სურათებით საბოლოოდ თითქმის 50 გოგონა დაზარალდა.
დაგვიანებული ქმედება და ლიდერობის წარუმატებლობა
პირველადი საჩივარი გაკეთდა 2023 წლის ნოემბერში, მაგრამ მშობლებმა სიტუაციის შესახებ მხოლოდ 2024 წლის მაისამდე გაიგეს. იმ დროისთვის, ზოგიერთი აშკარა სურათი გავრცელებული იყო ონლაინ ჩატის ოთახებში. მშობლები აღშფოთდნენ, როცა გაიგეს, რომ სკოლის ადმინისტრატორები, მათ შორის სკოლის ხელმძღვანელი მეტ მიკიჩე და საბჭოს პრეზიდენტი ანგელა ანგ-ალჰადეფი, დაუყონებლივ არ მოქმედებდნენ ამ ბრალდებებთან დაკავშირებით.
2024 წლის აგვისტოში პოლიციამ დააკავა 15 წლის სტუდენტი, რომელიც ეჭვმიტანილი იყო სურათების შექმნაში და გავრცელებაში. გამოძიების ფარგლებში მისი iPhone 11 ჩამოართვეს. თუმცა, ამ დროისთვის სკოლის ხელმძღვანელობის მიმართ ნდობა მნიშვნელოვნად შემცირებული იყო. მშობლებმა ადმინისტრაცია დაადანაშაულეს ბავშვზე ძალადობის სავარაუდო შემთხვევების შესახებ შეტყობინების სავალდებულო ვალდებულების უგულებელყოფასა და შვილების დაცვის უგულებელყოფაში.
მშობლები ანგარიშვალდებულებას ითხოვენ
სკანდალის შესახებ ინფორმაციის გავრცელებისთანავე, მშობლები სკოლისგან პასუხისმგებლობის მოთხოვნას გამართეს.'s ლიდერობა. 2024 წლის ნოემბერში მათ თავიანთი იურიდიული წარმომადგენლების მეშვეობით გაავრცელეს წერილი, რომელშიც მოითხოვდნენ LCDS-ში დაუყოვნებლივ გადადგომას და სისტემურ ცვლილებებს. მათი მოთხოვნები მოიცავდა:
- სკოლის ხელმძღვანელის მეტ მიკიჩეს და საბჭოს პრეზიდენტის ანგელა ანგ-ალჰადეფის გადადგომა.
- სავალდებულო ტრენინგი ყველა პერსონალისთვის ბავშვზე ძალადობის შესახებ შეტყობინების შესახებ.
- სრულ განაკვეთზე სერტიფიცირებული მანდატურის დაქირავება სტუდენტის უსაფრთხოების ზედამხედველობისთვის.
- დასაქმება IT სასამართლო ექსპერტიზის ფირმა, რათა დადგინდეს სად აშკარა სურათები იყო გაზიარებული.
- უფასო საკონსულტაციო სერვისების უზრუნველყოფა ყველა დაზარალებულისთვის.
მზარდი ზეწოლის წინაშე, მიკიჩეც და ანგ-ალჰადეფიც გადადგნენ 2024 წლის ნოემბრის შუა რიცხვებში. თუმცა, მშობლებმა განაცხადეს, რომ მათი სარჩელი სკოლის წინააღმდეგ გაგრძელდება, მიუხედავად ამ გადადგომისა.
სტუდენტების პროტესტი და საზოგადოების აღშფოთება
სკანდალმა ასევე გამოიწვია აღშფოთება LCDS-ის სტუდენტებში. 2024 წლის 8 ნოემბერს, საშუალო სკოლის მოსწავლეთა ნახევარზე მეტმა გაფიცვა მოაწყო, კამპუსის გარშემო მსვლელობა მოაწყო და სკანდირებდნენ ისეთ ლოზუნგებს, როგორიცაა „ მოგვისმინეთ. აღიარეთ ჩვენი ყურადღება. დაგვინახეთ“. პროტესტმა ხაზი გაუსვა ღალატის ღრმა გრძნობას, რომელსაც განიცდიდნენ სტუდენტები, რომლებიც მოელოდნენ, რომ მათი სკოლა უსაფრთხო გარემოს უზრუნველყოფდა.
18 ნოემბერს გაკვეთილები გაუქმდა, რადგან ადმინისტრაცია კრიზისის მოგვარებას ცდილობდა. იმ დღეს გამოქვეყნებულ განცხადებაში LCDS-მა აღიარა თავისი საზოგადოების წინაშე არსებული „ რთული პერიოდი “ და პირობა დადო, რომ გადახედავდა უსაფრთხოების პროტოკოლებსა და ანგარიშგების პროცედურებს. დაზარალებული სტუდენტებისთვის ასევე ხელმისაწვდომი გახდა კონსულტაციის სერვისები.
სამართლებრივი და ეთიკური შედეგები
საქმემ ყურადღება მიიპყრო უფრო ფართო საკითხებზე ხელოვნური ინტელექტი და მისი ბოროტად გამოყენება. AI ინსტრუმენტები, რომლებსაც შეუძლიათ რეალისტური რეალობის შექმნა ღრმა ყალბი სურათები სულ უფრო ხელმისაწვდომი ხდება, რაც იწვევს სერიოზულ ეთიკურ და სამართლებრივ შეშფოთებას. ამ შემთხვევაში, თითქმის 50 სტუდენტი ქალი მსხვერპლი გახდნენ არაკონსენსუალური AI-ით გენერირებული გამოსახულება- ციფრული ექსპლუატაციის ფორმა, რომელსაც შეიძლება ჰქონდეს დამანგრეველი ფსიქოლოგიური ეფექტი.
პენსილვანიაში ახალი შტატის კანონი ამოქმედდება 2024 წლის დეკემბერში ადანაშაულებს ბავშვზე სექსუალური ძალადობის მასალის შექმნას ან გაზიარებასეს კანონმდებლობა წარმოადგენს შეერთებულ შტატებში ბოროტად გამოყენების წინააღმდეგ მიმართული უფრო ფართო ძალისხმევის ნაწილს. AI მავნე მიზნებისთვის განკუთვნილი ტექნოლოგიები. ფედერალური კანონი უკვე კრძალავს მანიპულირებული სურათების შექმნას, რომლებიც არასრულწლოვნებს წარმოადგენენ. pornგრაფიის წესდება, მაგრამ მსგავსი შემთხვევები ხაზს უსვამს არსებულ ხარვეზებს AI-ის სამართლებრივი ჩარჩო.
მზარდი შეშფოთება სკოლებში
LCDS-ის ინციდენტი იზოლირებული შემთხვევა არ არის. ხელოვნური ინტელექტის მიერ გენერირებულ ცრუ ფოტოებთან დაკავშირებული მსგავსი სკანდალები დაფიქსირდა შეერთებული შტატების მასშტაბით, მათ შორის ალასკაში, ნიუ-ჯერსიში, სიეტლში, ლოს-ანჯელესსა და მაიამიში. წლის დასაწყისში ერთ-ერთ ცნობილ შემთხვევაში, ფლორიდაში ორი მოზარდი ბიჭი დააკავეს თანაკლასელების ღრმა ყალბი შიშველი ფოტოების შექმნისთვის - ეს იყო პირველი ცნობილი შემთხვევა, როდესაც აშშ-ს ხელისუფლებამ ხელოვნური ინტელექტის მიერ გენერირებულ შიშველ ფოტოებთან დაკავშირებით სისხლის სამართლის ბრალდება წაუყენა.
გამოძიებების გაგრძელებისა და სამართლებრივი დავების განვითარების პარალელურად, ერთი რამ ცხადია: ხელოვნური ინტელექტის ბოროტად გამოყენებას შორსმიმავალი შედეგები მოჰყვება, რაც საზოგადოების მხრიდან დაუყოვნებლივ ყურადღებას მოითხოვს.
BONUS: მიიღეთ ჩვენი 200 დოლარიAI „ოსტატობის ინსტრუმენტების ნაკრები“ უფასოა რეგისტრაციის შემდეგ!
