Підйом Росії Згенерований штучним інтелектом матеріал про сексуальне насильство над дітьми (CSAM) представляє значне значення загроза онлайн-безпеці та благополуччю дітей. За даними Національного центру для зниклих безвісти та експлуатованих дітей (NCMEC), повідомлення про CSAM, отримані через їхні CyberTipline зросла на 12% у 2023 році, досягнувши приголомшливих 35.9 мільйонів повідомлень. Це тривожне зростання посилюється напливом створеного штучним інтелектом сексуального насильства над дітьми, яке не лише повторно викриває дітей, зображених у оригінальному вмісті, але й створює нові шляхи для експлуатації та нормалізації сексуального насильства над дітьми.
Обсяг проблеми
За даними Національного центру у справах зниклих і експлуатованих дітей (NCMEC), CyberTipline, важливий ресурс для повідомлень про CSAM, отримав приголомшливі 35.9 мільйона повідомлень у 2023 році, що на 12% більше, ніж у попередньому році. Цей сплеск звітів посилюється напливом CSAM, створений штучним інтелектом, що створює унікальні проблеми в ідентифікації справжніх жертв і розрізненні між реальними та синтетичний вміст.
Поширення матеріалів із зображенням сексуального насильства, згенерованих штучним інтелектом, не лише обтяжує правоохоронні органи, яким доручено переглядати величезні обсяги цифрового контенту, але й викликає занепокоєння щодо потенційної експлуатації вразливих осіб, особливо дітей. Як генеративний AI Зі зростанням розвитку технологій зростає ризик зловживання зловмисниками, що вимагає проактивних заходів для боротьби з цією загрозою.
Рекомендації та стратегії
Щоб протистояти загрозі CSAM, створеної ШІ, галузеві експерти та організації з безпеки дітей запропонували кілька рекомендацій і стратегій. Одна важлива рекомендація рекомендує компаніям проявляти обережність у виборі наборів даних, які використовуються для навчання AI Моделі, вирішуючи уникати тих, що складаються виключно з випадків сексуального насильства, а також дорослих сексуальний змістЦей запобіжний захід є важливим через генеративний штучний інтелект.'s схильність змішувати ці дві категорії.
Крім того, платформи соціальних медіа та пошукові системи закликають негайно видаляти посилання на веб-сайти та програми, які сприяють поширенню незаконних зображень дітей, тим самим перешкоджаючи створенню нових випадків сексуального сексуального насильства в Інтернеті.
Проблеми в ідентифікації жертв
Ідентифікація жертви, яку часто описують як «голка в стозі сіна», стала дедалі складнішою через поширення CSAM, створеного штучним інтелектом. Правоохоронним органам доводиться переглядати величезну кількість цифрового контенту, щоб ідентифікувати та захистити вразливих жертв, а зростаючий обсяг матеріалів, створених штучним інтелектом, лише додає цю копицю сіна, роблячи завдання більш ресурсомістким і трудомістким.
Спільні зусилля та безпека за принципами проектування
Визнаючи актуальність цього питання, провідні AI компанії, в т.ч. OpenAI, Microsoft, Google і Meta об’єдналися з такими організаціями безпеки дітей, як Thorn і All Tech Is Human, щоб боротися зі створенням і розповсюдженням CSAM, створеного штучним інтелектом. Ця новаторська ініціатива призвела до розробки «Безпека за проектом» принципи, спрямовані на запобігання створенню та поширенню сексуального сексуального насильства та інших видів сексуального ушкодження дітей.
Ключові принципи, викладені в «Безпека за проектом для Generative AI: запобігання сексуальному насильству над дітьми” папір включає:
| Принцип | Опис |
|---|---|
| розвивати | Відповідально підбирайте навчальні набори даних, виявляйте та видаляйте CSAM/CSEM, включайте цикли зворотного зв’язку та вирішуйте протилежне зловживання під час розробки моделі. |
| Розгортання | Випускайте моделі після оцінки безпеки для дітей, боріться з образливим вмістом і заохочуйте розробників до безпеки. |
| Підтримувати | Активно розумійте ризики для безпеки дітей і реагуйте на них, видаляйте AIG-CSAM, створений зловмисниками, інвестуйте в дослідження та майбутні рішення. |
Впроваджуючи ці принципи на всіх етапах AI розробки, розгортання та обслуговування, компанії прагнуть ускладнити зловмисникам зловживання генеративний ШІ за сексуальне насильство над дітьми.
Роль законодавства та політиків
Політики та законодавці також відіграють вирішальну роль у вирішенні цієї проблеми. Закон REPORT Act, нещодавно прийнятий Сенатом США, має на меті посилити звітність та боротьбу із сексуальною експлуатацією дітей в Інтернеті шляхом продовження терміну зберігання повідомленого контенту постачальниками послуг та надання обмеженої відповідальності NCMEC.'s продавці.
Проте висловлювалися занепокоєння щодо потенційної завищеної кількості звітів, що може ще більше навантажити і без того перевантажену систему CyberTipline і відволікати слідчих від зосередження на законних справах.
Як загроза CSAM, створений штучним інтелектом, продовжує розвиватися, вкрай важливо, щоб політики та зацікавлені сторони галузі співпрацювали для розробки відповідальних рамок і вказівок. Ці рамки мають дозволити компаніям проводити легальне та безпечне тестування великі мовні моделі щоб покращити можливості виявлення, приділяючи пріоритет безпеці дітей та захисту в Інтернеті.
12 березня 2024 року Джон Шехан, NCMEC's Старший віце-президент відділу з питань експлуатованих дітей та міжнародної взаємодії свідчив про шкоду, завдану дітям за допомогою діпфейків.
Читайте його повне свідчення тут
Поточні зусилля та майбутні виклики
Хоча відданість принципам Safety by Design є значним кроком уперед, боротьба проти CSAM, створеного штучним інтелектом, далека від завершення. Компанії погодилися публікувати оновлені відомості про свої зусилля, забезпечуючи прозорість і підзвітність. Проте швидкі темпи технологічного прогресу та тактики зловмисників, що постійно розвиваються, вимагають постійної пильності та співпраці між усіма зацікавленими сторонами, включаючи технологічні компанії, правоохоронні органи та політиків.
As Доктор Ребекка Портнофф, Віце-президент Російської Федерації Data Science в Thorn, підкреслює, «Ми стоїмо на роздоріжжі з генеративним штучним інтелектом, який є одночасно перспективним і ризикованим у нашій роботі із захисту дітей від сексуального насильства“. Щоб вирішити цю проблему, знадобиться багатогранний підхід із використанням як технологічних, так і надійних рішень правові основи захистити найбільш вразливих верств суспільства.
БОНУС: Отримайте наші 200 доларівAI «Набір інструментів майстерності» БЕЗКОШТОВНО при реєстрації!
