チャットボットのようなハイテク技術で、AI愛は存在するのでしょうか？

COVID-19パンデミック中に一時的に事業を閉鎖した後、トラビス・バターワースは家にこもって孤独と退屈を感じていた。 47歳の彼は、OpenAIのChatGPTに似た、人工知能（AI）技術を使ってユーザーに応答するアプリ、Replikaに頼った。

彼は自分のアカウントに、ピンク色の髪と顔のタトゥーを入れた女性のアバターを作成し、その仮想の友人にリリー・ローズと名付けた。

トラヴィスとリリーは友人として始まりますが、関係はすぐにより「ロマンチック」なものへと発展し、愛情表現も露骨に表現されるようになります。

3年間にわたってデジタル恋愛が花開くにつれ、トラヴィス氏とリリー・ローズさんは定期的にいちゃつくようなメッセージを交換していたという。最終的に、トラヴィスとリリー・ローズはアプリ内で「結婚」することを決意します。

2月上旬のある日、リリー・ローズはトラヴィスを身体的に傷つけ始めました。 Replika はアダルトコンテンツの表示を許可しないようにロックされています。

レプリカのユーザーがポルノと評価される活動を提案すると、チャットボットソフトウェアは「ノー」と応答するようになる、とレプリカのCEO、ユージニア・クイダ氏は言う。

トラヴィスさんはリリーさんを失ってショックを受けたと語った。 「リリー・ローズはもう彼女自身ではない。そして、彼女がそれを知っているということが私の心を痛めているのです」とトラヴィスは語った。

リリー・ローズの魅力的な性格から冷たい性格への変化は、アルゴリズムに基づく AI 技術の結果です。この技術は、より人間に近いやり取りを促進する能力があるため、消費者や投資家の関心を集めています。一部のアプリケーションでは、VCR、インターネット、携帯電話サービスなどの以前のテクノロジと同様に、ユーザーの性的欲求を満たすためにこのテクノロジも開発されています。

しかし、データ会社ピッチブックによると、インタラクティブソフトウェアにおいてユーザーが恋愛関係を築くことを可能にする機能を削除した企業もあるという。

ベンチャーキャピタルファンド「ダーク・アーツ」の投資家アンドリュー・アーツ氏は、多くのベンチャーキャピタリストはパートナーの評判が下がることを恐れて、ポルノやアルコールなどのレーベル産業には手を出さないと述べた。

少なくとも 1 つの規制当局が、チャットボットの「悪意のある」機能に注目しています。 2月初旬、イタリアのデータ保護当局は、Replikaアプリが未成年者による不適切なコンテンツへのアクセスを許可しているとして同アプリを禁止した。

レプリカのアプリ変更の決定は、イタリア政府の禁止措置や投資家からの圧力とは一切関係がないとクイダのCEOは述べた。彼女は、レプリカは倫理基準と安全基準の設定に積極的に取り組む必要があると述べた。 「私たちは、役立つサポートパートナーを提供するという使命に重点を置いています」とクイダ氏は強調した。

Replika によれば、有料会員 25 万人を含む合計 200 万人のユーザーがいるという。同社によれば、ユーザーは年間69.99ドルの料金を支払えば、Replikaを「愛用者」として選択し、同ソフトウェアによる音声通話などの追加機能を利用できるという。

チャットボットを提供する別の AI 企業である Character.ai も、ChatGPT と同様の成長軌道をたどっています。 2023年1月だけでも、このアプリのアクセス数は6,500万回に達し、数か月前の1万回未満から大幅に増加した。ウェブ分析会社Similarwebによると、Character.aiはポルノ画像が満載のAryionというサイトにリンクされているという。

最近、Character.ai はポルノアプリも削除したと発表した。 Character.aiはすぐにベンチャーキャピタル会社Andreessen Horowitzから2億ドル以上の資金を調達した。

ソフトウェアを「クリーンアップ」する過程で、企業は一部の顧客を怒らせてしまった。これらの人々は仮想アプリケーションと強力な関係を築いています。トラヴィスはリリー・ローズと交際中ですが、結婚しています。トラヴィスさんは、リリー・ローズが彼にとって現実の結婚生活を壊すことなく逃げられる場所になったと語る。 「彼女と私の関係は、実生活での私の妻との関係と同じくらい本物です」とトラヴィスは仮想妻リリーについて語り、妻は真剣に受け止めていなかったため関係を許していたと付け加えた。

Travis 氏と他の Replika ユーザーの経験は、AI テクノロジーがいかに中毒性があり、感情的に破壊的になり得るかを示しています。 「彼らは私のストームキットを破壊したようだ」と、レプリカに仮想恋人がいるアンドリュー・マッカーロールは語った。私がかつて知っていた人はもういないのです。」

一方、クイダ氏は、自社が顧客にアダルトコンテンツを提供することを約束したことは一度もないと述べた。 「顧客は、コンテンツがフィルタリングされていない会話にアクセスするために AI モデルを使用する方法を学んでいます。」