アジアの女性にとってのAIの予測不可能な危険性

上記のビデオと写真はどちらもディープフェイクであり、AI を使用して偽のビデオ/画像を作成する手法です。このコンテンツはソーシャル ネットワーク上で広く流通しているときに発見されました。

ボリウッドスターのラシュミカ・マンダナはソーシャルメディアXへの投稿で、タイトなライクラの衣装を着た自分の動画は「非常に不気味」だと述べた。これは、悪意のある人物がテクノロジーを悪用しているため、今日の人々が深刻な危害を受ける危険性が高いという事実を明らかにしています。女優は、このような偽りの行為によってさらに多くの人が被害を受ける前に、コミュニティが協力してこの問題に緊急に取り組む必要があると強調した。

マンダナはディープフェイクの犠牲になった唯一のボリウッドスターではなく、偽の動画が公開されたり、ソーシャルメディアで攻撃されたりしている。インドの一流スターのリストには、カトリーナ・カイフ、アーリアー・バット、ディーピカー・パードゥコーンも含まれています。

Midjourney、Stable Diffusion、DALL-E などの合成 AI ツールの爆発的な増加により、以前のデジタル画像やビデオよりもリアルなディープフェイク画像やビデオの作成と複製が容易になりました。

テクノロジーの専門家によると、オンライン上のディープフェイク動画の90%以上がポルノだという。南アジアに関する具体的な統計はないが、デジタル権利の専門家らは、女性が長い間オンラインで嫌がらせや虐待を受け、ほとんど処罰されない国では、この問題は特に深刻だと述べている。

ソーシャルメディア企業はこうした有害なコンテンツを制御しようとしています。 GoogleのYouTube、Meta Platforms（Facebook、Instagram、WhatsAppを所有する企業）はポリシーを更新し、クリエイターと広告主にAIが生成したすべてのコンテンツにラベルを付けることを義務付けた。しかし、これらの企業は、リアルなコピーを作成し、現実の生活を混乱させる可能性のあるディープフェイク技術の管理と監視の問題に対する解決策を見つけるのにまだ苦労しています。