OpenAIがAIリスク評価ガイドラインを公開

この発表は、同社の取締役会がサム・アルトマン最高経営責任者（CEO）を解雇し、従業員と投資家の抗議を受けて数日後に同氏を再雇用してから1か月後に行われた。

米メディアによると、オープンAIの役員らは、同社が開発した技術に潜在的なリスクがあるにもかかわらず、アルトマン氏がオープンAIの急速な発展を支持したことを批判した。

同社は昨年10月、監視・評価チームが最先端のAIソフトウェアを上回る可能性を秘めた開発中の「エッジモデル」に重点を置くと発表した。チームはそれぞれの新しいモデルを評価し、「低」から「重大」までの 4 つのレベルにわたってリスク レベルを決定します。上記のガイダンスによれば、リスク スコアが「中」以下のモデルのみをデプロイできます。

最初のレベルのリスクは、サイバーセキュリティと、モデルが大規模なサイバー攻撃を実行する能力に関連しています。 2 番目のレベルでは、ソフトウェアが、人間に危害を及ぼす可能性のある化学物質の混合物、生物 (ウイルスなど)、または核兵器の作成に役立つ傾向を測定します。 3 番目のレベルは、モデルが人間の行動にどの程度影響を与えることができるかなど、モデルの説得力に関するものです。最後のレベルのリスクは、モデルの潜在的な自律性、具体的には、モデルを作成したプログラマーの制御から逃れることができるかどうかに関係します。

リスクレベルが決定されると、その結果はOpenAI内の新しい組織であるOpenAI安全諮問グループに送信され、アルトマン氏または同氏が指名した人物に勧告が出される。その後、OpenAI の責任者は、関連するリスクを軽減するためにモデルに加える必要がある変更を決定します。取締役会は十分な情報を得て、上記の決定を覆す場合があります。