AI の時代 - パート 2: 両刃の剣

国連のアントニオ・グテーレス事務総長は「AIに関して警鐘が鳴らされており、我々はその警告を真剣に受け止める必要がある」と強調した。

明らかなリスクは、テクノロジーが多くの仕事を「置き換え」ているため、人間が AI に依存しすぎるようになることです。人間のあらゆる情報は能動的、受動的を問わず AI に取り込まれ、サイバー空間で使用されるため、個人のプライバシーを確​​保するための境界は非常に脆弱です。 AIは、低学歴の労働者や肉体労働者、あるいは自動化によって職を失った人々の労働力を奪うため、労働市場においては「諸刃の剣」でもある。

統計によると、この傾向により、調査対象となった 32 か国で最大 3 分の 1 の雇用が失われています。 AIは、株式市場取引、銀行業務、法律アドバイス、データ分析など、さまざまな分野でもその優位性を発揮しています。現実には、AI の発展に伴って新しい職業が生まれ、労働市場での需要が高まっていますが、これらの新しい仕事のほとんどは、AI が「排除」する仕事とはまったく異なる要件を持ち、より高い基準を要求することがよくあります。

さらに、習慣的に AI に「頼る」ことから、不適切な目的で AI を「悪用する」ことまでの距離は非常に短いです。たとえば、AI は学習製品 (テスト、論文など) を不正に作成するために使用される可能性があります。サイバースペースで違法賭博を組織すること。個人の自由の侵害、密輸、破壊活動、窃盗、殺人などの違法行為を犯すこと。偽りの反動的な文化製品を高速で作り出し、広範囲かつ洗練された方法で普及させ、悪影響を及ぼしています...

最も典型的な事例は、最近 AI 技術の「熱狂的」な製品である ChatGPT です。 Amazon の Kindle オンライン書店には現在、ChatGPT という著者名の電子書籍が 200 冊以上あります。ソーシャルネットワークTikTokでは、AIが生成した音声を含む動画もユーザーに人気がある。多くの人が、音声変換アプリケーション「Celebrity Voice Changer」のように、月額わずか5ドル程度の料金で、有名人や政治家の声を真似てリアルな会話を作成するAIツールを使用しています。

AI システムは利用可能なデータに基づいてテキスト、画像、音声を生成できるため、詐欺行為を助長し、虚偽の情報を作成し、それをインターネット上で広く拡散させ、関係者に深刻な損害を与える可能性があります。サイバー犯罪の増加と巧妙化など、特に AI やハイテク全般がもたらす危険性について警告がますます多く発せられています。

欧州警察機構（ユーロポール）は、郵便詐欺や偽情報計画にAI製品が使用されるリスクについて警鐘を鳴らし、これらの技術製品はハイテク犯罪者とサイバーセキュリティ部隊との新たな激しい戦いの始まりとなる「諸刃の剣」のようなものだと述べた。最近、多くの犯罪者がディープフェイクを使って詐欺を働いています。ディープフェイクは、現実の物体を非常に高い精度で偽造する音声、画像、ビデオ製品を作成する AI テクノロジーです。オーストラリアのサイバーセキュリティ専門家らは、ハッカーがチャットアプリ「ChatGPT」を使って、セキュリティ訓練を最も受けた企業従業員でさえ騙されるほど「本物」のフィッシングメールを作成していると警告している。

AIはテキストや音声を偽造できるだけでなく、「仮想の友達」を作成できるほど洗練されています。 2014年にマイクロソフトアジア太平洋地域が発表した「18歳の少女」AI「Xiaoice」や、2017年に米国カリフォルニアのエンジニア、ユージニア・クイダ氏が開発したアプリケーション「Replika」のような製品は、独身者にとっては運命の人だと考えられています。多くの国では、AIアプリによって生み出されたキャラクターと人間との「恋愛物語」が存在しています。明らかに、この状況は心理的、感情的な歪みのリスク、そして実在の人物のプライバシーと生命に対するリスクをもたらします。

7月18日に開催されたAIに関する国連安全保障理事会の初会合で、アントニオ・グテーレス国連事務総長と多くの各国大使は、AIが世界の平和と安全に対して及ぼすリスクについて警告した。 AI がスパイ活動や監視、分析、さらには敵国へのドローンの派遣といった自動ターゲット選択にまで利用されるケースが増えているため、この脅威はより現実的なものとなっています。紛争が発生した場合、これは本当に危険です。自律型兵器システム（AWS）は人間の制御なしに標的を攻撃できるため、その使用は大きな懸念事項となっている。専門家は、戦争におけるAIの使用を規制する条約が成立するのはまだ先のことかもしれないと述べているが、この問題に関するガイドラインを早急に策定する必要がある。

AI分野のリーダーとして数十年の経験を持つカリフォルニア大学（米国）のコンピューターサイエンス教授、スチュアート・ラッセル氏は、この技術が厳密に監視されなければ、人類は将来、想像を絶する結果を被る可能性があると考えている。ラッセル氏によると、AI 研究所は、誰も、たとえその作成者でさえも確実に制御できない、さらに強力なデジタル マインドを開発および展開するという「制御不能な競争」を続けている。ChatGPT チャットボットを作成した企業である OpenAI の CEO サム アルトマン氏でさえ、AI が人類に「実存的リスク」をもたらしていると認めており、この画期的なテクノロジーを監視する国際機関を設立する必要がある。

ラッセル氏とアルトマン氏は、テスラのイーロン・マスクCEOやアップルの共同創業者スティーブ・ウォズニアック氏などベテランを含む3万人以上のテクノロジー企業の幹部とともに、AIの潜在的リスクを警告し、AI技術の拡大を一時停止するよう求める公開書簡に署名した。 「AIの力が日々増大する中、私たちが一歩下がって、これらの強力な技術が責任を持って安全に開発、導入されるようにすることが重要だ」と同氏は述べた。

世界有数の監査法人プライスウォーターハウスクーパースによれば、2030年までにAIは新たな産業と雇用を創出しながら、世界経済に約15兆7000億ドルの貢献をするだろう。 AIの発展は、各国の革新力と創造力による総合力の証として広く認識されています。しかし、政策立案者とAI開発者が克服しなければならない最大の課題は、昨年7月に国連がスイスのジュネーブで開催した「AI for Goodグローバルサミット」で設定された目標である「AI技術の責任ある未来を共に確保すること」である。

最終レッスン: テクノロジーの適応と習得