的崛起 人工智能生成的儿童性虐待材料 （CSAM）具有重要意义 对在线安全和儿童福祉的威胁。根据国家失踪和受虐儿童中心 (NCMEC) 的说法，CSAM 通过其机构收到的报告 CyberTipline 12 年激增 2023%，报告数量达到惊人的 35.9 万份。人工智能生成的 CSAM 的涌入加剧了这种令人震惊的增长，这不仅使原始内容中描述的儿童再次受害，而且还为儿童性虐待的剥削和正常化创造了新的途径。
问题的范围
根据国家失踪和受虐儿童中心 (NCMEC) 的数据，CyberTipline 作为报告 CSAM 的重要资源，在 35.9 年收到了惊人的 2023 万份报告，比上一年增加了 12%。报告的激增因大量涌入的人而加剧 AI 生成的 CSAM，这对识别真正的受害者以及区分真实受害者和区分真实受害者提出了独特的挑战。 合成内容.
人工智能生成的儿童性虐待内容的泛滥不仅给负责筛选海量数字内容的执法机构带来了负担，也引发了人们对弱势群体，尤其是儿童，可能遭受剥削的担忧。随着生成性虐待内容的出现， AI 随着技术的不断进步，被犯罪者滥用的风险也在增加，因此必须采取积极措施来应对这一威胁。
建议和策略
为了应对人工智能生成的 CSAM 的威胁，行业专家和儿童安全组织提出了多项建议和策略。一项值得注意的建议建议公司在选择用于培训的数据集时要谨慎 AI 模型，选择避免那些完全由 CSAM 实例以及成人组成的 性内容. 由于生成式人工智能，这种预防措施至关重要's 倾向于将这两个类别混为一谈。
此外，敦促社交媒体平台和搜索引擎立即删除有助于传播儿童非法图像的网站和应用程序的链接，从而阻止在网上创建人工智能生成的 CSAM 的新实例
受害者身份识别的挑战
受害者身份识别，通常被描述为“大海捞针由于人工智能生成的 CSAM 的激增，“问题”变得越来越具有挑战性。执法机构必须筛选大量数字内容，以识别和保护弱势受害者，而人工智能生成的材料数量不断增加，只会让这个大海捞针，使这项任务更加耗费资源和时间。
设计原则的协作努力和安全
认识到这个问题的紧迫性，领导 AI 公司，包括 OpenAI、微软、谷歌和 Meta 已与 Thorn 和 All Tech Is Human 等儿童安全组织联合起来，打击人工智能生成的 CSAM 的生成和传播。这一开创性的举措导致了“安全设计”原则，旨在防止人工智能生成的 CSAM 和其他针对儿童的性伤害的产生和传播。
“生成人工智能的安全设计：防止儿童性虐待》论文包括：
| 原则 | 描述 |
|---|---|
| 制定政策 | 负责任地获取训练数据集，检测和删除 CSAM/CSEM，纳入反馈循环，并解决模型开发过程中的对抗性滥用问题。 |
| 部署 | 在评估儿童安全后发布模型，打击滥用内容，并鼓励开发者对安全负责。 |
| 保持 | 积极了解和应对儿童安全风险，消除不良行为者产生的 AIG-CSAM，投资研究和未来解决方案。 |
通过在所有阶段实施这些原则 AI 开发、部署和维护，公司的目标是让不良行为者更难以滥用 生成式人工智能 对于儿童的性虐待。
立法者和政策制定者的作用
政策制定者和立法者在解决这一问题上也发挥着至关重要的作用。美国参议院最近通过的《报告法案》旨在通过延长提供商对已报告内容的保存期限并赋予NCMEC有限责任，加强对网络儿童性剥削的举报和打击。's 供应商。
然而，人们担心过度报告的可能性，这可能会进一步加重本已不堪重负的 CyberTipline 系统的压力，并分散调查人员对合法案件的注意力。
作为威胁 AI 生成的 CSAM 不断发展， 政策制定者和行业利益攸关方必须合作制定负责任的框架和准则。这些框架应该允许公司合法、安全地进行测试 大型语言模型 提高检测能力，同时优先考虑儿童安全和在线保护。
12 年 2024 月 XNUMX 日，John Shehan，NCMEC's 受剥削儿童部门和国际参与高级副总裁就深度伪造对儿童的伤害作证。
在这里阅读他的完整证词
持续的努力和未来的挑战
虽然对设计安全原则的承诺是向前迈出的重要一步，但针对人工智能生成的 CSAM 的战斗还远未结束。公司已同意发布其努力的最新进展，以确保透明度和问责制。然而，技术进步的快速发展和不良行为者不断变化的策略需要所有利益相关者（包括技术公司、执法机构和政策制定者）持续保持警惕并进行合作。
As 丽贝卡·波特诺夫博士，副总裁 Thorn 的数据科学， 强调，“我们正处于生成人工智能的十字路口，它在我们保护儿童免受性虐待的工作中既带来希望，也带来风险”。应对这一挑战需要采取多方面的方法，利用技术解决方案和强大的 法律框架 保护社会最弱势的成员。
奖金： 获得我们的 200 美元“AI 注册即可免费获得“精通工具包”！
