AIのダークサイド：不穏な急増 AI 児童搾取コンテンツ

AIによって生成された児童性的虐待画像（CSAM）の増加は、オンラインの安全と子供たちの幸福にとって重大な脅威となっています。全米行方不明・被搾取児童センター（NCMEC）によると、サイバーティップラインを通じて寄せられたCSAMの報告件数は2023年に12%増加し、驚異的な35.9万件に達しました。この憂慮すべき増加は、AIによって生成されたCSAMの流入によってさらに悪化しており、これは元のコンテンツに描かれた子供たちを再び被害に遭わせるだけでなく、児童性的虐待の搾取と常態化のための新たな道筋を生み出しています。

問題の範囲

全米行方不明・被虐待児童センター（NCMEC）によると、児童性的虐待画像（CSAM）の通報に不可欠な情報源であるサイバーティップラインには、2023年に35.9万件もの通報が寄せられ、前年比12%増となった。この通報件数の急増は、AIによって生成されたCSAMの流入によってさらに深刻化しており、真の被害者を特定し、本物と合成コンテンツを区別する上で特有の課題が生じている。

AIによって生成されたCSAMの急増は、膨大なデジタルコンテンツを精査する任務を負う法執行機関に負担をかけるだけでなく、特に子供など脆弱な個人が搾取される可能性に対する懸念も引き起こしている。 AI 技術が進歩し続けるにつれて、犯罪者による悪用リスクが増大し、この脅威に対抗するための積極的な対策が必要になります。

推奨事項と戦略

AI が生成する CSAM の脅威に対抗するために、業界の専門家や児童安全団体はいくつかの推奨事項と戦略を提案しています。注目すべき推奨事項の 1 つは、トレーニングに使用するデータセットを選択する際には注意するよう企業にアドバイスしています。 AI モデル、成人向けだけでなく CSAM のインスタンスだけで構成されるものを避けることを選択します。 性的コンテンツこの予防措置は生成AIにとって不可欠である。's これら 2 つのカテゴリを混同する傾向があります。

さらに、ソーシャル メディア プラットフォームと検索エンジンは、子供の違法な画像の拡散を促進する Web サイトやアプリへのリンクを速やかに削除するよう求められており、これにより、オンライン上で AI によって生成された CSAM の新たなインスタンスの作成が阻止されます。 

被害者の身元確認における課題

被害者特定は、しばしば「干し草の山から針を探す」ような難題と表現されるが、AIによって生成された児童性的虐待画像（CSAM）の蔓延により、ますます困難になっている。法執行機関は、脆弱な被害者を特定し保護するために、膨大な量のデジタルコンテンツを精査する必要があるが、AIによって生成された素材の増加は、この干し草の山をさらに大きくするだけであり、作業はより多くのリソースと時間を要するものとなっている。

設計原則による共同の取り組みと安全性

この問題の緊急性を認識し、 AI 含む企業 OpenAI, Microsoft、Google、Meta は、Thorn や All Tech Is Human などの児童安全団体と連携して、AI が生成する CSAM の生成と拡散と闘っています。この画期的な取り組みが「」の開発につながりました。安全設計」原則は、AI によって生成された CSAM や子供に対するその他の性的危害の作成と蔓延を防ぐことを目的としています。

「生成型AIの設計段階からの安全性：児童性的虐待の防止」という論文で概説されている主な原則は以下のとおりです。

これらの原則をすべての段階に導入することで、 AI 開発、展開、保守を通じて、企業は悪意のある人物が悪用することをより困難にすることを目指しています。 generative AI 児童への性的虐待について。

立法と政策立案者の役割

政策立案者や立法者も、この問題への対処において重要な役割を果たしています。最近、米国上院で可決されたREPORT法は、報告されたコンテンツの保存期間を延長し、NCMECに責任制限を与えることで、オンライン児童性的搾取の報告と対策を強化することを目的としています。's ベンダー。 

しかし、過剰報告の可能性について懸念が生じており、すでに過負荷になっているCyber​​Tiplineシステムにさらに負担がかかり、捜査員が正当な事件に集中できなくなる可能性がある。

AIが生成する児童性的虐待画像（CSAM）の脅威が進化し続ける中、政策立案者と業界関係者が協力して責任ある枠組みとガイドラインを策定することが不可欠です。これらの枠組みは、企業が児童の安全とオンライン保護を最優先に、検出能力を向上させるための大規模な言語モデルを合法かつ安全にテストできるようにするものでなければなりません。

12 年 2024 月 XNUMX 日、NCMEC、ジョン・シーハン's 被搾取児童部門および国際関与担当の上級副社長が、ディープフェイクが子供に及ぼす害について証言した。

彼の証言全文をここで読む

継続的な取り組みと今後の課題

Safety by Design 原則への取り組みは大きな前進ですが、AI によって生成された CSAM との戦いはまだ終わっていません。企業は、透明性と説明責任を確保するために、取り組みの進捗状況の最新情報を公開することに同意しています。しかし、テクノロジーの急速な進歩と悪役の戦術が進化し続けるため、テクノロジー企業、法執行機関、政策立案者を含むすべての関係者間の継続的な警戒と協力が必要です。

Thorn社のデータサイエンス担当副社長であるレベッカ・ポートノフ博士が強調するように、「私たちは生成型AIに関して岐路に立っており、児童性的虐待から子どもたちを守るための活動において、それは可能性とリスクの両方を秘めています」。この課題に対処するには、社会で最も弱い立場にある人々を守るために、技術的な解決策と強固な法的枠組みの両方を活用する多面的なアプローチが必要です。