テクノロジー企業がAI生成の児童ポルノに宣戦布告

この共同声明は、10月30日、英国ロンドンで開催される世界AIサミットに先立って行われたイベントで英国政府によって発表され、米国、ドイツ、オーストラリアを含む国々の政府代表27名の署名が寄せられた。このイベントには、慈善団体、テクノロジー企業、学術機関、政府代表らが出席し、AIが生成した児童性的虐待画像の拡散がもたらす脅威にどう対処するかを議論した。

共同声明では、この状況を軽減するために協力することを約束しています。声明では、各国はAI時代の児童性的虐待に対処するために対話と技術的取り組みを継続する決意を表明した。各国は、児童性的虐待のリスクを防止するために AI を責任を持って使用し、AI がもたらすリスクと児童性的虐待を防止する取り組みが制御不能にならないようにするために協力することを約束します。政府はこの問題に対処するために AI の活用に多額の投資を行っており、AI によって生成された児童ポルノの脅威に対処するための潜在的な革新的な解決策を今後も模索していきます。

英国内務省は、インターネット・ウォッチ財団（IWF）のデータを引き合いに出し、ダークウェブのフォーラムでユーザーがAI生成の児童ポルノ画像を約3,000枚共有していたことを明らかにした。 IWFのスージー・ハーグリーブスCEOは、今こそ模範を示し、問題が定着する前に新興技術の悪用を防ぐべき時だと強調した。

スエラ・ブレイバーマン内務大臣は、こうした有害画像がインターネット上で拡散するスピードは非常に速いと述べ、テクノロジー企業は法執行機関と協力してこうしたコンテンツを制限する必要があると強調した。さらに、AI によって生成された画像が拡散されると、法執行機関による被害者の特定や犯罪者の追跡の取り組みが妨げられる可能性があります。政府も、AI は善のために使用すれば強力なツールになり得ることを認識しています。

ブレイバーマン長官は、AIは児童性的虐待の防止効果を高める機会を提供すると強調した。英国内務省は警察やその他のパートナーと協力して、児童ポルノの重大性を評価するために AI を活用した児童虐待画像データベース (CAID) を開発しました。 AI ツールは、警察が大量のデータを迅速にフィルタリングし、著作権を侵害する画像をより速く検出して捜査を迅速化し、被害者を特定して保護するのに役立ちます。