の始まり AI が生成した児童性的虐待素材 (CSAM) は重大な問題を引き起こす オンラインの安全性と子どもたちの幸福に対する脅威。国立行方不明児童搾取センター (NCMEC) によると、CSAM の報告は彼らの組織を通じて受け取った。 CyberTipline は 12 年に 2023% 急増し、35.9 万件という驚異的なレポートに達しました。この憂慮すべき増加は、AI によって生成された CSAM の流入によってさらに悪化しており、オリジナルのコンテンツで描かれている子供たちを再び被害者にするだけでなく、児童の性的虐待の搾取と常態化のための新たな道を生み出します。
問題の範囲
国立行方不明児童搾取センター (NCMEC) によると、CSAM を報告するための重要なリソースである CyberTipline は、35.9 年に 2023 万件という驚異的な報告を受け取り、前年比 12% 増加しました。この報告数の急増は、 AI によって生成された CSAMこれは、本物の被害者を特定し、本物の被害者と被害者を区別する際に独特の課題を引き起こします。 合成コンテンツ.
AIによって生成されたCSAMの急増は、膨大なデジタルコンテンツを精査する任務を負う法執行機関に負担をかけるだけでなく、特に子供など脆弱な個人が搾取される可能性に対する懸念も引き起こしている。 AI 技術が進歩し続けるにつれて、犯罪者による悪用リスクが増大し、この脅威に対抗するための積極的な対策が必要になります。
推奨事項と戦略
AI が生成する CSAM の脅威に対抗するために、業界の専門家や児童安全団体はいくつかの推奨事項と戦略を提案しています。注目すべき推奨事項の 1 つは、トレーニングに使用するデータセットを選択する際には注意するよう企業にアドバイスしています。 AI モデル、成人向けだけでなく CSAM のインスタンスだけで構成されるものを避けることを選択します。 性的コンテンツこの予防措置は生成AIにとって不可欠である。's これら 2 つのカテゴリを混同する傾向があります。
さらに、ソーシャル メディア プラットフォームと検索エンジンは、子供の違法な画像の拡散を促進する Web サイトやアプリへのリンクを速やかに削除するよう求められており、これにより、オンライン上で AI によって生成された CSAM の新たなインスタンスの作成が阻止されます。
被害者の身元確認における課題
被害者の身元確認は、しばしば「」と表現されます。干し草の山の中の針」という問題は、AI によって生成された CSAM の普及により、ますます困難になっています。法執行機関は、弱い立場にある被害者を特定して保護するために、膨大な量のデジタル コンテンツを選別する必要がありますが、AI によって生成されたマテリアルの量が増えると、この干し草の山がさらに増えるだけであり、この作業はより多くのリソースと時間がかかるものになります。
設計原則による共同の取り組みと安全性
この問題の緊急性を認識し、 AI 含む企業 OpenAI, Microsoft、Google、Meta は、Thorn や All Tech Is Human などの児童安全団体と連携して、AI が生成する CSAM の生成と拡散と闘っています。この画期的な取り組みが「」の開発につながりました。安全設計」原則は、AI によって生成された CSAM や子供に対するその他の性的危害の作成と蔓延を防ぐことを目的としています。
「」で概説されている重要な原則生成 AI の安全性による設計: 児童の性的虐待の防止」論文には次のものが含まれます。
| 原則 | 詳細説明 |
|---|---|
| 開発する | 責任を持ってトレーニング データセットを調達し、CSAM/CSEM を検出して削除し、フィードバック ループを組み込み、モデル開発中の敵対的な悪用に対処します。 |
| 配備します | 子供の安全性を評価した後にモデルをリリースし、虐待的なコンテンツと闘い、安全性に対する開発者の責任を奨励します。 |
| 維持します | 子供の安全リスクを積極的に理解して対応し、悪意のある者によって生成された AIG-CSAM を除去し、研究と将来のソリューションに投資します。 |
これらの原則をすべての段階に導入することで、 AI 開発、展開、保守を通じて、企業は悪意のある人物が悪用することをより困難にすることを目指しています。 generative AI 児童への性的虐待について。
立法と政策立案者の役割
政策立案者や立法者も、この問題への対処において重要な役割を果たしています。最近、米国上院で可決されたREPORT法は、報告されたコンテンツの保存期間を延長し、NCMECに責任制限を与えることで、オンライン児童性的搾取の報告と対策を強化することを目的としています。's ベンダー。
しかし、過剰報告の可能性について懸念が生じており、すでに過負荷になっているCyberTiplineシステムにさらに負担がかかり、捜査員が正当な事件に集中できなくなる可能性がある。
の脅威として、 AI によって生成された CSAM は進化し続けており、 政策立案者と業界関係者が協力して、責任ある枠組みとガイドラインを開発することが不可欠です。これらのフレームワークにより、企業は合法的かつ安全にテストできるようになります。 大規模な言語モデル 子供の安全とオンライン保護を優先しながら、検出機能を向上させます。
12 年 2024 月 XNUMX 日、NCMEC、ジョン・シーハン's 被搾取児童部門および国際関与担当の上級副社長が、ディープフェイクが子供に及ぼす害について証言した。
彼の証言全文をここで読む
継続的な取り組みと今後の課題
Safety by Design 原則への取り組みは大きな前進ですが、AI によって生成された CSAM との戦いはまだ終わっていません。企業は、透明性と説明責任を確保するために、取り組みの進捗状況の最新情報を公開することに同意しています。しかし、テクノロジーの急速な進歩と悪役の戦術が進化し続けるため、テクノロジー企業、法執行機関、政策立案者を含むすべての関係者間の継続的な警戒と協力が必要です。
As レベッカ・ポートノフ博士、副社長 ソーンのデータサイエンス、 と強調する。子どもたちを性的虐待から守る取り組みにおいて、私たちは生成型 AI の可能性とリスクの両方を伴う岐路に立たされています。”。この課題に対処するには、技術的ソリューションと堅牢なソリューションの両方を活用した多面的なアプローチが必要です。 法的枠組み 社会で最も弱い立場にある人々を守るために。
ボーナス： 200ドルの「AI 登録すると「マスタリーツールキット」が無料になります！
