Kebangkitan Bahan penderaan seksual kanak-kanak yang dijana AI (CSAM) menimbulkan kepentingan ancaman kepada keselamatan dalam talian dan kesejahteraan kanak-kanak. Menurut Pusat Kebangsaan untuk Kanak-kanak Hilang dan Dieksploitasi (NCMEC), laporan CSAM yang diterima melalui mereka CyberTipline melonjak sebanyak 12% pada 2023, mencapai 35.9 juta laporan yang mengejutkan. Peningkatan yang membimbangkan ini diburukkan lagi dengan kemasukan CSAM yang dijana AI, yang bukan sahaja menjejaskan semula kanak-kanak yang digambarkan dalam kandungan asal tetapi juga mewujudkan jalan baharu untuk eksploitasi dan normalisasi penderaan seksual kanak-kanak.
Skop Masalah
Menurut Pusat Kebangsaan Kanak-Kanak Hilang dan Dieksploitasi (NCMEC), CyberTipline, sumber penting untuk melaporkan CSAM, menerima 35.9 juta laporan yang mengejutkan pada 2023, menandakan peningkatan 12% daripada tahun sebelumnya. Lonjakan dalam laporan ini diburukkan lagi dengan kemasukan CSAM yang dijana AI, yang menimbulkan cabaran unik dalam mengenal pasti mangsa tulen dan membezakan antara sebenar dan kandungan sintetik.
Percambahan CSAM yang dijana AI bukan sahaja membebankan agensi penguatkuasaan undang-undang yang ditugaskan untuk menyaring sejumlah besar kandungan digital tetapi juga menimbulkan kebimbangan tentang potensi eksploitasi individu yang terdedah, terutamanya kanak-kanak. Sebagai generatif AI teknologi terus maju, risiko penyalahgunaan oleh pelaku meningkat, memerlukan langkah proaktif untuk memerangi ancaman ini.
Cadangan dan Strategi
Untuk memerangi ancaman CSAM yang dijana AI, pakar industri dan organisasi keselamatan kanak-kanak telah mencadangkan beberapa cadangan dan strategi. Satu pengesyoran penting menasihatkan syarikat supaya berhati-hati dalam memilih set data yang digunakan untuk latihan AI model, memilih untuk mengelakkan perkara-perkara yang hanya terdiri daripada contoh CSAM dan juga orang dewasa kandungan seksual. Langkah berjaga-jaga ini penting kerana AI generatif's kecenderungan untuk menggabungkan kedua-dua kategori ini.
Selain itu, platform media sosial dan enjin carian digesa untuk segera mengalih keluar pautan ke tapak web dan aplikasi yang memudahkan penyebaran imej haram kanak-kanak, sekali gus menggagalkan penciptaan contoh baharu CSAM yang dijana AI dalam talian.
Cabaran dalam Pengenalan Mangsa
Pengenalan mangsa, sering digambarkan sebagai "jarum-dalam-timbunan jerami” masalah, telah menjadi semakin mencabar kerana percambahan CSAM yang dijana AI. Agensi penguatkuasaan undang-undang mesti menyaring sejumlah besar kandungan digital untuk mengenal pasti dan melindungi mangsa yang terdedah, dan jumlah bahan yang dijana AI yang semakin meningkat hanya menambah tumpukan jerami ini, menjadikan tugas itu lebih intensif sumber dan memakan masa.
Usaha Kolaboratif dan Keselamatan mengikut Prinsip Reka Bentuk
Menyedari betapa mendesaknya isu ini, memimpin AI syarikat, termasuk OpenAI, Microsoft, Google dan Meta, telah bersatu dengan organisasi keselamatan kanak-kanak seperti Thorn dan All Tech Is Human untuk memerangi penjanaan dan penyebaran CSAM yang dijana AI. Inisiatif terobosan ini telah membawa kepada pembangunan "Keselamatan mengikut Reka Bentuk” prinsip, yang bertujuan untuk menghalang penciptaan dan penyebaran CSAM yang dijana AI dan bahaya seksual lain terhadap kanak-kanak.
Prinsip utama yang digariskan dalam “Keselamatan oleh Reka Bentuk untuk Generatif AI: Mencegah Penderaan Seksual Kanak-kanak” kertas termasuk:
| Prinsip | Penerangan Produk |
|---|---|
| Membangunkan | Sumber set data latihan secara bertanggungjawab, mengesan dan mengalih keluar CSAM/CSEM, menggabungkan gelung maklum balas dan menangani penyalahgunaan musuh semasa pembangunan model. |
| menggunakan | Keluarkan model selepas menilai untuk keselamatan kanak-kanak, memerangi kandungan kesat dan menggalakkan pemilikan keselamatan pemaju. |
| Mengekalkan | Memahami secara aktif dan bertindak balas terhadap risiko keselamatan kanak-kanak, keluarkan AIG-CSAM yang dihasilkan oleh pelakon jahat, melabur dalam penyelidikan dan penyelesaian masa depan. |
Dengan melaksanakan prinsip ini merentasi semua peringkat AI pembangunan, penempatan dan penyelenggaraan, syarikat menyasarkan untuk menyukarkan pelakon jahat untuk disalahgunakan AI generatif untuk penderaan seksual kanak-kanak.
Peranan Perundangan dan Pembuat Dasar
Penggubal dasar dan penggubal undang-undang juga memainkan peranan penting dalam menangani isu ini. Akta LAPORAN, baru-baru ini diluluskan oleh Senat AS, bertujuan untuk meningkatkan pelaporan dan memerangi eksploitasi seksual kanak-kanak dalam talian dengan melanjutkan tempoh pemeliharaan penyedia untuk kandungan yang dilaporkan dan memberikan liabiliti terhad kepada NCMEC's penjual.
Walau bagaimanapun, kebimbangan telah dibangkitkan tentang potensi pelaporan berlebihan, yang boleh membebankan lagi sistem CyberTipline yang sudah terlalu terbeban dan mengalih perhatian penyiasat daripada memberi tumpuan kepada kes yang sah.
Sebagai ancaman daripada CSAM yang dijana AI terus berkembang, adalah penting bagi penggubal dasar dan pihak berkepentingan industri bekerjasama untuk membangunkan rangka kerja dan garis panduan yang bertanggungjawab. Rangka kerja ini harus membenarkan syarikat menguji secara sah dan selamat model bahasa yang besar untuk meningkatkan keupayaan pengesanan sambil mengutamakan keselamatan kanak-kanak dan perlindungan dalam talian.
Pada 12 Mac 2024, John Shehan, NCMEC's Naib Presiden Kanan, Bahagian Kanak-Kanak Dieksploitasi & Penglibatan Antarabangsa, memberi keterangan mengenai bahaya palsu kepada kanak-kanak.
Baca keterangan penuh beliau di sini
Usaha Berterusan dan Cabaran Masa Depan
Walaupun komitmen terhadap prinsip Keselamatan oleh Reka Bentuk merupakan satu langkah ke hadapan yang penting, perjuangan menentang CSAM yang dijana AI masih belum berakhir. Syarikat telah bersetuju untuk mengeluarkan kemas kini kemajuan mengenai usaha mereka, memastikan ketelusan dan akauntabiliti. Walau bagaimanapun, kepesatan kemajuan teknologi dan taktik pelakon jahat yang sentiasa berkembang memerlukan kewaspadaan dan kerjasama berterusan di kalangan semua pihak berkepentingan, termasuk syarikat teknologi, agensi penguatkuasaan undang-undang dan penggubal dasar.
As Dr Rebecca Portnoff, Naib Presiden Sains Data di Thorn, menekankan, “Kami berada di persimpangan dengan AI generatif, yang memegang janji dan risiko dalam kerja kami untuk melindungi kanak-kanak daripada penderaan seksual“. Menangani cabaran ini memerlukan pendekatan pelbagai aspek, memanfaatkan kedua-dua penyelesaian teknologi dan teguh rangka kerja undang-undang untuk melindungi anggota masyarakat yang paling lemah.
BONUS: Dapatkan $200 kamiAI Mastery Toolkit” PERCUMA apabila anda mendaftar!
