OpenAIはAIで詐欺防止に取り組んでいる

「超知能の力は、権力の衰退、あるいは人類の絶滅につながる可能性がある」と、オープンAIの共同創設者イリヤ・スツケバー氏と最高監督責任者ヤン・ライケ氏は述べ、超知能AI（人間よりも賢くなる能力を持つシステム）が10年以内に出現する可能性があると予測した。

両グループのリーダーは、超知能AIを制御または規制する解決策は現時点では存在しないため、AIが依然として人間に利益をもたらすことを確実にすることに重点を置いた「コネクテッドリサーチ」におけるブレークスルーが必要だと述べた。

今後 4 年間で、OpenAI は保証された計算能力の 20% をこの問題の解決に充てる予定です。さらに、同社はスーパーアライメントと呼ばれる新しいチームを立ち上げ、人間レベルの AI アライメント研究に取り組んでおり、その後、膨大な計算能力を通じてその規模を拡大していく予定です。これは、AI システムが人間からのフィードバックを通じてトレーニングされ、各個人に代わってアライメント研究の評価と実行を支援することを意味します。

AI技術構築会社Conjectureの創業者コナー・リーヒ氏は、接続問題が解決されなければ人間レベルのAIが制御不能になる可能性があるため、この計画にはまだ多くの欠点があると評価した。

AIの潜在的な危険性は、技術研究者にとっても一般の人々にとっても依然として最大の懸念事項です。 4月には、トップテクノロジー企業の幹部グループが、AIの規制と、AI技術がもたらす「絶滅の危険性」に対する認識を高めるよう求める公開書簡に署名した。さらに、5月に実施されたロイター/イプソスの世論調査では、アメリカ人の3分の2以上がAIの悪影響を懸念しており、回答者の61％がAIが人類の文明を脅かす可能性があると考えていることが明らかになった。