OpenAIが音声クローンツールをリリース

「Voice Engine」の小規模テストの結果を共有したOpenAIのブログ投稿によると、このツールは基本的に15秒間の音声サンプルに基づいて誰かの声を複製できるという。

OpenAIは、音声生成が特に選挙の年には深刻なリスクをもたらすことを認めている。しかし同社は、このツールを安全に構築・開発するためのフィードバックを集めるため、政府、メディア、エンターテインメント、教育、市民社会などの国内外のパートナーと協力していると述べた。

OpenAIは、Voice Engineによって生成されたすべての音声の発信元をマークすることや、ツールの使用方法を積極的に監視することなど、一連の安全対策を実施したと述べている。
偽情報の研究者たちは、音声複製ツールがますます安価になり、使いやすく、追跡が困難になっていることから、重要な選挙の年にAI搭載アプリが大量に悪用されるリスクを懸念している。一例として、AIが生成した電話がある。これはミネソタ州議会議員ディーン・フィリップスのロビイストの発案によるもので、ジョー・バイデン大統領が2024年1月にニューハンプシャー州予備選挙で投票しないよう人々に呼びかけているように聞こえる。この事件により、2024年の大統領選や今年の他の主要な世界選挙で、AIが生成したディープフェイク（偽の音声や動画）による誤情報が相次いで流れるのではないかと専門家の間で懸念が高まっている。