صعود مواد الاعتداء الجنسي على الأطفال التي أنشأها الذكاء الاصطناعي (CSAM) يشكل أهمية كبيرة تهديد للسلامة على الإنترنت ورفاهية الأطفال. وفقًا للمركز الوطني للأطفال المفقودين والمستغلين (NCMEC)، فقد تم تلقي تقارير CSAM من خلالهم ارتفع CyberTipline بنسبة 12% في عام 2023، ليصل إلى 35.9 مليون تقرير مذهل. وتتفاقم هذه الزيادة المثيرة للقلق بسبب تدفق مواد الاعتداء الجنسي على الأطفال التي يولدها الذكاء الاصطناعي، والتي لا تؤدي فقط إلى إعادة إيذاء الأطفال الذين تم تصويرهم في المحتوى الأصلي، ولكنها تخلق أيضًا سبلًا جديدة للاستغلال وتطبيع الاعتداء الجنسي على الأطفال.
نطاق المشكلة
وفقًا للمركز الوطني للأطفال المفقودين والمستغلين (NCMEC)، تلقى CyberTipline، وهو مورد حيوي للإبلاغ عن الاعتداءات الجنسية والاعتداءات الجنسية، عددًا مذهلاً بلغ 35.9 مليون بلاغ في عام 2023، مما يمثل زيادة بنسبة 12٪ عن العام السابق. وتتفاقم هذه الزيادة في التقارير بسبب تدفق CSAM التي تم إنشاؤها بواسطة الذكاء الاصطناعي، الأمر الذي يطرح تحديات فريدة في تحديد الضحايا الحقيقيين والتمييز بين الضحايا الحقيقيين والضحايا الحقيقيين المحتوى الاصطناعي.
إن انتشار مواد الاعتداء الجنسي المُولّدة بالذكاء الاصطناعي لا يُثقل كاهل جهات إنفاذ القانون المُكلّفة بفحص كميات هائلة من المحتوى الرقمي فحسب، بل يُثير أيضًا مخاوف بشأن الاستغلال المُحتمل للأفراد المُستضعفين، وخاصة الأطفال. AI مع استمرار التقدم التكنولوجي، يتزايد خطر إساءة الاستخدام من قبل الجناة، مما يستلزم اتخاذ تدابير استباقية لمكافحة هذا التهديد.
التوصيات والاستراتيجيات
لمكافحة تهديد CSAM الناتج عن الذكاء الاصطناعي، اقترح خبراء الصناعة ومنظمات سلامة الأطفال العديد من التوصيات والاستراتيجيات. تنصح إحدى التوصيات البارزة الشركات بتوخي الحذر عند اختيار مجموعات البيانات المستخدمة للتدريب AI عارضات ازياء، مع اختيار تجنب تلك التي تتألف حصريًا من حالات CSAM بالإضافة إلى البالغين المحتوى الجنسي. هذا الاحتياط ضروري بسبب الذكاء الاصطناعي التوليدي's الميل إلى دمج هاتين الفئتين.
بالإضافة إلى ذلك، يتم حث منصات وسائل التواصل الاجتماعي ومحركات البحث على إزالة الروابط إلى مواقع الويب والتطبيقات على الفور والتي تسهل نشر الصور غير المشروعة للأطفال، وبالتالي إحباط إنشاء حالات جديدة من مواد الاعتداء الجنسي على الأطفال عبر الإنترنت.
التحديات في تحديد هوية الضحايا
غالبًا ما يتم وصف تحديد هوية الضحية بأنه "إبرة في كومة قش"مشكلة، أصبحت صعبة بشكل متزايد بسبب انتشار CSAM التي تم إنشاؤها بواسطة الذكاء الاصطناعي. ويجب على وكالات إنفاذ القانون التدقيق في كميات هائلة من المحتوى الرقمي لتحديد وحماية الضحايا الضعفاء، كما أن الحجم المتزايد للمواد التي ينتجها الذكاء الاصطناعي يضيف إلى هذه الكومة من القش، مما يجعل المهمة أكثر استهلاكا للموارد واستهلاكا للوقت.
الجهود التعاونية والسلامة من خلال مبادئ التصميم
إدراكًا لمدى إلحاح هذه القضية، قاد AI الشركات ، بما في ذلك OpenAIوقد اتحدت كل من Microsoft وGoogle وMeta مع منظمات سلامة الأطفال مثل Thorn وAll Tech Is Human لمكافحة توليد ونشر الاعتداءات الجنسية العنيفة التي ينشئها الذكاء الاصطناعي. وقد أدت هذه المبادرة الرائدة إلى تطوير "السلامة حسب التصميم"المبادئ التي تهدف إلى منع إنشاء وانتشار مواد الاعتداء الجنسي على الأطفال التي ينشئها الذكاء الاصطناعي وغيرها من الأضرار الجنسية ضد الأطفال.
المبادئ الأساسية الموضحة في "السلامة حسب التصميم للذكاء الاصطناعي التوليدي: منع الاعتداء الجنسي على الأطفال"ورقة تشمل:
| مبدأ | الوصف |
|---|---|
| تطوير | مصدر مجموعات بيانات التدريب بشكل مسؤول، واكتشاف CSAM/CSEM وإزالتها، ودمج حلقات التعليقات، ومعالجة سوء الاستخدام الخصومي أثناء تطوير النموذج. |
| نشر | قم بإصدار النماذج بعد تقييم سلامة الأطفال، ومكافحة المحتوى المسيء، وتشجيع ملكية المطورين للسلامة. |
| صيانة | فهم المخاطر التي تهدد سلامة الأطفال والاستجابة لها بشكل فعال، وإزالة AIG-CSAM الناتجة عن الجهات الفاعلة السيئة، والاستثمار في البحث والحلول المستقبلية. |
من خلال تنفيذ هذه المبادئ في جميع مراحل AI التطوير والنشر والصيانة، تهدف الشركات إلى جعل الأمر أكثر صعوبة بالنسبة للجهات الفاعلة السيئة لإساءة الاستخدام الذكاء الاصطناعي التوليدي بتهمة الاعتداء الجنسي على الأطفال.
دور التشريعات وصانعي السياسات
يلعب صانعو السياسات والمشرعون أيضًا دورًا حاسمًا في معالجة هذه المشكلة. يهدف قانون الإبلاغ، الذي أقره مجلس الشيوخ الأمريكي مؤخرًا، إلى تعزيز الإبلاغ عن الاستغلال الجنسي للأطفال عبر الإنترنت ومكافحته من خلال تمديد فترة حفظ مقدمي الخدمات للمحتوى المبلغ عنه ومنح المركز الوطني للأطفال ضحايا الاستغلال الجنسي للأطفال مسؤولية محدودة.'s الباعة.
ومع ذلك، فقد أثيرت مخاوف بشأن احتمال الإفراط في الإبلاغ، الأمر الذي قد يزيد من الضغط على نظام CyberTipline المثقل بالفعل ويصرف انتباه المحققين عن التركيز على القضايا المشروعة.
كتهديد يستمر CSAM الناتج عن الذكاء الاصطناعي في التطور، ومن الضروري أن يتعاون صناع السياسات وأصحاب المصلحة في الصناعة لتطوير أطر عمل ومبادئ توجيهية مسؤولة. يجب أن تسمح هذه الأطر للشركات بإجراء الاختبار بشكل قانوني وآمن نماذج اللغات الكبيرة لتحسين قدرات الكشف مع إعطاء الأولوية لسلامة الأطفال والحماية عبر الإنترنت.
في 12 مارس 2024، جون شيهان، NCMEC's نائب الرئيس الأول لقسم الأطفال المستغلين والمشاركة الدولية، أدلى بشهادته بشأن الأضرار التي يسببها التزييف العميق للأطفال.
اقرأ شهادته كاملة هنا
الجهود المستمرة والتحديات المستقبلية
على الرغم من أن الالتزام بمبادئ السلامة حسب التصميم يعد خطوة مهمة إلى الأمام، إلا أن المعركة ضد أسلحة CSAM الناتجة عن الذكاء الاصطناعي لم تنته بعد. وافقت الشركات على نشر تحديثات التقدم بشأن جهودها، مما يضمن الشفافية والمساءلة. ومع ذلك، فإن الوتيرة السريعة للتقدم التكنولوجي والتكتيكات المتطورة باستمرار للجهات الفاعلة السيئة تتطلب اليقظة المستمرة والتعاون بين جميع أصحاب المصلحة، بما في ذلك شركات التكنولوجيا، ووكالات إنفاذ القانون، وصانعي السياسات.
As الدكتورة ريبيكا بورتنوفنائب رئيس علوم البيانات في ثورن, يؤكد "نحن على مفترق طرق مع الذكاء الاصطناعي التوليدي، الذي يحمل وعدًا ومخاطرة في عملنا للدفاع عن الأطفال من الاعتداء الجنسي". وسوف يتطلب التصدي لهذا التحدي اتباع نهج متعدد الأوجه، يستفيد من الحلول التكنولوجية القوية الأطر القانونية لحماية الفئات الأكثر ضعفاً في المجتمع.
BONUS: احصل على 200 دولارAI "مجموعة أدوات الإتقان" مجانية عند التسجيل!
