AIツールの利用により企業が情報漏洩や訴訟に巻き込まれるリスクを警告

ブルームバーグニュースによると、Team8のレポートは、チャットボットや新しいAI搭載ライティングツールの普及により、企業がデータ漏洩や訴訟に対して脆弱になる可能性があることを示唆している。恐ろしいのは、チャットボット アプリケーションがハッカーに悪用され、企業の機密情報にアクセスされたり、企業に不利な行為が行われたりする可能性があることです。また、将来的には AI 企業がチャットボット アプリケーションに機密情報を挿入する可能性があるという懸念もあります。

顧客情報の漏洩リスクを防ぐため、マイクロソフトやアルファベットなどの大手テクノロジー企業は、チャットボットや検索エンジンを改善する機能の追加に競って取り組んでおり、インターネットから収集したデータでモデルをトレーニングし、ユーザーにアプリケーションへの独自のエントリポイントを提供している。マイクロソフトはこれまで、Bing 検索エンジンと Microsoft 365 ツールに AI チャットボット機能をいくつか組み込んできました。

「AI 搭載の Q&A アプリケーションを使用する企業は、ユーザーの直接入力を通じて、機密情報、ソース コード、企業秘密、顧客情報などのその他のデータにアクセスし、処理する可能性がある」と Team8 のレポートでは、AI チャットボットの使用によるリスク レベルを「高」と分類しています。ただし、適切な安全対策を講じればリスクは管理可能です。

この文書では、AI ツールの統合における他の 3 つの高リスク問題も取り上げており、サードパーティのアプリケーションを通じて共有される情報の増加による脅威を強調しています。 Team8の報告書には、国家安全保障局と米国サイバーコマンドの元長官マイケル・ロジャース氏からの意見と確認も含まれていた。

ChatGPT は昨年 11 月のリリース以来、わずか数秒でエッセイ、詩、コードをオンデマンドで作成できる機能で世界中の注目を集めています。リリースから1か月で5,700万人のユーザーを獲得し、1月31日時点で1億人を突破するなど、ユーザー獲得率が最も高いソフトウェアです。しかし、このツールは、誤報や学術上の不正行為のリスクに関する多くの問題も引き起こします。

3月初旬、欧州連合（EU）の産業担当委員ティエリー・ブルトン氏は、EUはChatGPTのリスクに関する懸念に対処し、欧州のユーザーがAI技術を信頼できるようにするために、新たなAI関連の規制を課すと述べた。一方、中国メディアによると、中国の規制当局は国内の大手テクノロジー企業に対し、ChatGPTサービスを一般に提供しないよう要請したという。

同時に、英国のサイバーセキュリティ企業は、チャットツール「ChatGPT」が極めて洗練された手口でサイバー詐欺を増加させ、ハッカーがより高い確率で標的型攻撃を実行できるようにしている可能性があると警告した。