A ascensão de Material de abuso sexual infantil gerado por IA (CSAM) representa um impacto significativo ameaça à segurança online e ao bem-estar das crianças. De acordo com o Centro Nacional para Crianças Desaparecidas e Exploradas (NCMEC), os relatos de CSAM recebidos através de seus CyberTipline aumentou 12% em 2023, atingindo impressionantes 35.9 milhões de relatórios. Este aumento alarmante é exacerbado pelo influxo de CSAM gerado por IA, que não só revitimiza as crianças retratadas no conteúdo original, mas também cria novos caminhos para a exploração e normalização do abuso sexual infantil.
O escopo do problema
De acordo com o Centro Nacional para Crianças Desaparecidas e Exploradas (NCMEC), o CyberTipline, um recurso vital para denunciar CSAM, recebeu impressionantes 35.9 milhões de denúncias em 2023, marcando um aumento de 12% em relação ao ano anterior. Este aumento nos relatórios é exacerbado pelo influxo de CSAM gerado por IA, o que coloca desafios únicos na identificação de vítimas genuínas e na distinção entre vítimas reais e conteúdo sintético.
A proliferação de CSAM gerados por IA não só sobrecarrega as agências policiais encarregadas de vasculhar vastas quantidades de conteúdo digital, como também levanta preocupações sobre a potencial exploração de indivíduos vulneráveis, especialmente crianças. Como generativo AI À medida que a tecnologia continua avançando, o risco de uso indevido por criminosos aumenta, exigindo medidas proativas para combater essa ameaça.
Recomendações e estratégias
Para combater a ameaça do CSAM gerado por IA, especialistas do setor e organizações de segurança infantil propuseram diversas recomendações e estratégias. Uma recomendação notável aconselha as empresas a terem cautela na seleção dos conjuntos de dados utilizados para treinamento AI modelos, optando por evitar aquelas compostas exclusivamente por instâncias de CSAM, bem como por adultos conteúdo sexual. Esta precaução é essencial devido à IA generativa's tendência a confundir essas duas categorias.
Além disso, as plataformas de redes sociais e os motores de busca são instados a remover imediatamente links para websites e aplicações que facilitam a disseminação de imagens ilícitas de crianças, impedindo assim a criação de novas instâncias de CSAM online gerado por IA.
Desafios na identificação das vítimas
A identificação da vítima, muitas vezes descrita como uma “agulha no palheiro”Problema, tornou-se cada vez mais desafiador devido à proliferação de CSAM gerado por IA. As agências responsáveis pela aplicação da lei devem analisar grandes quantidades de conteúdos digitais para identificar e proteger as vítimas vulneráveis, e o volume crescente de material gerado pela IA apenas contribui para aumentar este palheiro, tornando a tarefa mais intensiva em recursos e demorada.
Esforços Colaborativos e Princípios de Segurança por Design
Reconhecendo a urgência desta questão, liderando AI empresas, incluindo OpenAI, Microsoft, Google e Meta se uniram a organizações de segurança infantil como Thorn e All Tech Is Human para combater a geração e disseminação de CSAM gerado por IA. Esta iniciativa inovadora levou ao desenvolvimento de “Segurança desde o projeto”Princípios, que visam prevenir a criação e disseminação de CSAM gerados por IA e outros danos sexuais contra crianças.
Os princípios fundamentais descritos no “Segurança desde o projeto para IA generativa: prevenção do abuso sexual infantil”papel inclui:
| Princípio | Descrição |
|---|---|
| Desenvolvedor | Obtenha conjuntos de dados de treinamento de maneira responsável, detecte e remova CSAM/CSEM, incorpore ciclos de feedback e resolva o uso indevido de adversários durante o desenvolvimento do modelo. |
| Implementar | Lançar modelos após avaliar a segurança infantil, combater conteúdo abusivo e incentivar a propriedade da segurança pelos desenvolvedores. |
| Manter | Compreender e responder ativamente aos riscos de segurança infantil, remover AIG-CSAM gerados por maus atores, investir em pesquisas e soluções futuras. |
Ao implementar estes princípios em todas as fases da AI desenvolvimento, implantação e manutenção, as empresas visam tornar mais difícil para os malfeitores fazerem mau uso IA generativa pelo abuso sexual de crianças.
O papel da legislação e dos formuladores de políticas
Os formuladores de políticas e legisladores também desempenham um papel crucial no enfrentamento dessa questão. A Lei REPORT, recentemente aprovada pelo Senado dos EUA, visa aprimorar a denúncia e o combate à exploração sexual infantil online, estendendo o período de preservação dos provedores para o conteúdo denunciado e concedendo responsabilidade limitada ao NCMEC.'s fornecedores.
No entanto, foram levantadas preocupações sobre o potencial de denúncias excessivas, o que poderia sobrecarregar ainda mais o já sobrecarregado sistema CyberTipline e distrair os investigadores de se concentrarem em casos legítimos.
Como a ameaça de CSAM gerado por IA continua a evoluir, é imperativo que os decisores políticos e as partes interessadas da indústria colaborem para desenvolver quadros e directrizes responsáveis. Essas estruturas devem permitir que as empresas testem de forma legal e segura grandes modelos de linguagem para melhorar os recursos de detecção, priorizando a segurança infantil e a proteção online.
Em 12 de março de 2024, John Shehan, NCMEC's Vice-presidente sênior da Divisão de Crianças Exploradas e Engajamento Internacional, testemunhou sobre danos causados por deepfakes a crianças.
Leia seu depoimento completo aqui
Esforços contínuos e desafios futuros
Embora o compromisso com os princípios de Safety by Design seja um avanço significativo, a batalha contra o CSAM gerado por IA está longe de terminar. As empresas concordaram em divulgar atualizações sobre o progresso dos seus esforços, garantindo transparência e responsabilização. No entanto, o ritmo acelerado dos avanços tecnológicos e as tácticas em constante evolução dos maus actores exigem vigilância e colaboração contínuas entre todas as partes interessadas, incluindo empresas tecnológicas, agências de aplicação da lei e decisores políticos.
As Dra.Rebecca Portnoff, Vice-presidente de Ciência de Dados em Thorn, enfatiza: “Estamos numa encruzilhada com a IA generativa, que traz tanto promessas como riscos no nosso trabalho para defender as crianças do abuso sexual“. Enfrentar este desafio exigirá uma abordagem multifacetada, alavancando soluções tecnológicas e robustas marcos legais para proteger os membros mais vulneráveis da sociedade.
BONUS: Receba nossos $ 200 “AI “Kit de ferramentas de domínio” GRÁTIS ao se inscrever!
