AIに関する国際合意は設計段階からの安全性を重視

米当局者によれば、これはAI技術が詐欺のリスクに対して安全に使用されることを保証する方法についての初の詳細な合意であり、またテクノロジー企業に「設計上安全」なAIシステムの開発を促している。

20ページの文書によると、18カ国が、AIを設計・使用する企業は、顧客と一般大衆を安全に保ち、悪用されないような方法でこの先進技術を開発・展開する必要があることに同意した。この協定は拘束力がなく、主にAIの不正使用の監視、データ保護などの一般的な勧告を行っている。新協定に署名する国は、米国と英国のほか、ドイツ、イタリア、チェコ共和国、エストニア、ポーランド、オーストラリア、チリ、イスラエル、ナイジェリア、シンガポールなど、大陸を越えて広がっている。

米国サイバーセキュリティ・インフラセキュリティ庁のジェン・イースタリー長官によると、AIシステムは安全性を最優先にする必要があるという考え方に多くの国が同意していることは重要だという。 「AIはクールな機能や市場投入までのスピード、あるいはコスト削減のための競争方法だけの問題ではないと私たちが話し合うために集まったのは今回が初めてです。私たちが今達した合意では、設計段階で最も重要なことはセキュリティだということに全員が同意しました」とイースタリー氏は記者団に語った。

これは、産業界や社会全体にますます大きな影響を及ぼしている AI の発展を形作るために世界各国の政府が行っている一連の取り組みの中で最新のものです。新たに合意に達した内容は、AI技術をハッカーから安全に保護する方法についての疑問に対処し、適切なセキュリティテストを行った後にのみモデルを公開するなどの推奨事項を概説している。しかし、この契約では、AIの適切な使用や、これらのモデルに供給するデータの収集方法といった難しい問題には対処されていない。

AI規制に関しては、欧州が米国より進んでいる。欧州の議員らはAIに関する規則を起草した。フランス、ドイツ、イタリアも最近、AIの規制方法について合意に達した。バイデン政権も議員らにAI規制の制定を促しているが、分裂した議会ではその面でほとんど進展が見られない。ホワイトハウスは、消費者、労働者、少数派に対するAIのリスクを軽減するとともに、10月にAIに関する初の包括的な大統領令を発令して国家安全保障を強化し、AIプログラムが国家安全保障、地域経済、または人間の健康にリスクをもたらす場合、AIを開発する企業に国防生産法（DPA）に基づいて米国政府に通知することを義務付けました。この新たな命令は、化学、生物、放射線、核、サイバーセキュリティに関連するリスクにも対処している。