オーストラリアのサイバーセキュリティ専門家がChatGPTに関連するリスクを警告

シドニーのVNA記者は、オーストラリアのソフトウェア会社VMWareのグローバルセキュリティ技術専門家であるチャド・スキッパー氏の言葉を引用し、フィッシングメールはChatGPTまたは同様の自然言語「機械学習」モデルを使用して、組織内の公式メールの言語と口調を模倣しており、本物のメールと区別するのは非常に難しいと述べた。

チャド・スキッパー氏は、これはハッカーとサイバーセキュリティ業界との新たな戦争であり、「容赦なく」続くだろうと語った。 「我々は我々のやり方で AI を使い、彼らは彼らのやり方で AI を使う」と彼は語った。そして、これは人工知能における「軍拡競争」なのです。

チャド・スキッパー氏によると、サイバー犯罪者は人工知能を使用して企業や組織の脆弱性を特定し、ChatGPTを使用して高度なフィッシング攻撃を実行してこれらの組織に侵入しているとのことです。

フィッシングは、攻撃者が偽の電子メールやその他の形式のメッセージを使用してユーザーを「罠」にかけ、一見無害な文書や Web サイトへのリンクをクリックさせ、ユーザーのデバイスにマルウェアを拡散させるサイバー攻撃の一種です。

ネットワーク侵入の約 90% は、以前に成功したフィッシング攻撃から始まると推定されています。 2022年10月にオーストラリア最大の民間保険会社メディバンクに対して発生した壊滅的なサイバー攻撃も、その一つである可能性がある。この攻撃は、従業員のコンピュータがマルウェアに感染したことから始まった。

VMware オーストラリアのビジネスディレクター、ダレン・リード氏は、ChatGPT は昨年のリリース以来短期間で、こうした攻撃に対する防御ラインの 1 つを事実上回避したと述べた。

「ロシアのハッカーにとって、英語はおそらく障壁となるだろう」と彼は語った。また、ほとんどの組織では、フィッシング メールを除外するために、異常な文法や単語の使用をスキャンします。しかし、ChatGPT はこれを修正し、ハッカーのメッセージの信頼性を高め、攻撃が成功する可能性を高めます。」

スキッパー氏は、サイバー犯罪者は組織のコンピューターシステムに侵入すると、人工知能を使って検出を逃れ、攻撃を拡大し続けるだろうと述べた。

IBMはサイバー攻撃のコストに関する新たな調査で、サイバー攻撃を受けた企業が攻撃を特定し阻止するまでに平均277日、つまり9か月かかることを明らかにした。

これは、ハッカーが企業内に深く入り込み、より多くのデータを収集する時間があり、そのデータをディープフェイク技術（AIを使用して人物の画像や音声を取得し、それを別の人物のビデオに貼り付ける技術）を使用した攻撃の根拠として利用し、人工知能を使用して同僚の文章スタイルや声までも忠実に模倣し、企業の他の部分への攻撃の根拠とする時間があるときです。

サイバー犯罪者は、ChatGPT を使ってマルウェアのコードを微調整し、ウイルス対策ソフトウェアを回避しているほか、マルウェアに「人工知能」を埋め込んで、検出後にマルウェアの行動を適応させている、とスキッパー氏は述べた。