Metaはユーザーによる脅迫を防ぐためにAIを使用する

最近、犯罪グループが若者を誘惑して個人の機密画像を提供させ、金銭を受け取らなければその画像を公表すると脅して恐喝詐欺を行っているとの報告がある。

Metaは「機密写真を保護する」ツールをテスト中だと述べている。 AIを搭載したこのツールは、アプリのメッセージシステムで未成年者に送信された写真を検索、分析、ぼかしを入れることができる。こうすることで、受信者は携帯電話で不要なコンテンツを表示する必要がなくなり、画像の表示を継続するかどうかを選択できます。

発表の中で、Meta は、この新しいツールは、センシティブな画像を使った脅迫の危険から若者を守るのに役立つと同時に、詐欺師や潜在的な犯罪者が 10 代のユーザーを見つけて接触することがより困難になると強調しました。

さらに、Metaは、AIツールを使用して著作権を侵害するコンテンツを発信するアカウントを特定し、悪質な行為者がInstagramアプリ上で若いユーザーとやり取りするのを防ぐための厳格なブロック措置を導入すると述べた。 Meta には、不要なメッセージや画像を送受信する人に対してアドバイスや安全に関するヒントを提供するソリューションも用意されています。

米国当局によれば、2022年だけでも、この国では約3,000人の10代の若者が上記のような詐欺の被害者となった。

一方、Metaは、若者を夢中にさせ、彼らの精神的健康を害するビジネスモデルを作り出し、利益のために若いユーザーを搾取したとして、40以上の州で訴訟に直面している。

メタは1月、コンテンツ制御や強化された保護者監視ツールなど、18歳未満のユーザーを保護するための対策を展開すると発表した。