警告：新しいAIモデルの急増によりサイバー攻撃のリスクが増加

これは、英国政府情報局（GCHQ）の国家サイバーセキュリティセンター（NCSC）が1月24日に発した警告だ。

NCSCは報告書の中で、新たなAIモデルの爆発的な増加により、今後2年間でサイバー攻撃の件数と影響がほぼ確実に増加するだろうと述べた。最大の影響は、ハッカーが新しい AI モデルの開発を利用して、必要なスキルを使用せずにサイバー攻撃能力を強化していることです。同センターは、新たなAIツールへのデータ入力の障壁を減らすことで、ハッカーが世界的にランサムウェア攻撃を強化する可能性が高まると指摘した。

最も低いレベルでは、AI 搭載のチャットボットなどの生成 AI ツールによって、オンライン詐欺キャンペーンで使用される、より説得力のある電子メールや文書を作成できます。

より高いレベルでは、より有能で、多くの場合は政府の支援を受けているハッカーが AI の潜在能力を活用して、政府機関、組織、個人のシステムに対してサイバー攻撃を実行できます。

OpenAI のチャット エンジン ChatGPT などの大規模言語モデル (LLM) の普及により、この新しいテクノロジ パラダイムに関連する潜在的なセキュリティ問題に対する懸念が高まっています。アルゴリズムと膨大な入力データのおかげで、これらのモデルは人間と同じようにテキストを生成し、さまざまな言語処理タスクを実行できます。
現在、世界中の多くの国のセキュリティ機関は、新しい AI モデルが引き起こす可能性のある潜在的なセキュリティ リスクに対処する方法を模索しています。英国、米国、カナダの当局は、ハッカーが新しいAI技術を悪用した事例を記録していると述べた。