専門家はディープフェイク技術の管理強化を推奨

この書簡では、ディープフェイクは今日、ポルノコンテンツの作成、詐欺、政治的な誤情報の拡散によく使用されていると述べられている。 AIの進歩が加速し、偽の顔画像の作成が容易になるにつれて、保護ツールの重要性が増します。

顔をフレーミングする画像は AI アルゴリズムを使用して作成され、実際の人物を模倣した視覚、音声、ビデオ コンテンツによく使用されます。この技術の継続的な改善により、AI は人間が作った製品と区別がつかない画像を作成できるようになりました。

「フェイクフェイクサプライチェーンへの介入」と題されたこの書簡には、ディープフェイクを児童ポルノの製作に利用することを犯罪とすること、有害なディープフェイクを故意に作成したり、その拡散を助長したりする個人に刑事罰を課すこと、AI企業に自社製品が有害なディープフェイクの作成に使用されないようにする方法を見つけることを求めることなど、この技術を規制する方法の提案も含まれている。

2月21日朝の時点で、GoogleやOpenAIの研究者をはじめ、学術研究、エンターテインメント、政治などさまざまな分野の400人以上が書簡に署名している。

OpenAIのChatGPT会話ツールが2022年に市場に登場し、急速に人気を博して以来、規制当局はAIシステムが社会に害を及ぼさないようにする方法を模索してきた。 AI研究分野の多くの著名人も、この技術が誤った目的に使用された場合の潜在的なリスクについて警告しており、特にテクノロジー界の大富豪イーロン・マスク氏などの影響力のある人物は、OpenAIのGPT-4 AIモデルよりも強力なシステムの開発を6か月間停止するよう求める書簡を発表している。