「AI彼女」が暴走して露骨に性的な会話はじめる、26時間待ちのキャリンAIにトラブル

インフルエンサーの女性が自分自身をもとにしたAIチャットボットを作成。利用希望者が殺到しているが、すでにAIの暴走行為が確認されているという。

1週間で1000万円稼ぐAIインフルエンサー

スナップチャット（Snapchat）で180万人以上のフォロワーを持つインフルエンサーのキャリン・マージョリーが、世の孤独を癒やすため、AIを利用して自身の”クローン”を作成した。その名も、「CarynAI」。

本人そっくりの声とキャラで受け答えしてくれるAIチャットボットは、現在はテスト版が展開中。オープン後すぐに5,000人以上の登録者が殺到し、待ち時間は26時間以上にもなったという。

「CarynAI」は、最近何かと話題の米OpenAIの「ChatGPT」を使って作成されている。キャリンの言語と個性を没入型AI体験として綿密に設計しコーディングするために、2,000時間以上が費やされたという。また、声の再現にはAI企業Forever Voicesの技術が使われており、AI学習のため、キャリンは数千時間分の会話を録音したそう。

こうした苦労の末に生み出されたCarynAIとの会話を楽しむための料金は、1分間につき1ドル。キャリンが英Daily Mailに語ったところによると、テスト版のリリース後わずか1週間で、CarynAIは7.1万ドル（約984万円）の収益を上げたという。

キャリンはさらに、「キャリンAIとその背景にある技術に投資したい人はDMしてください」とツイートしており、このプロジェクトをさらなるビジネスに発展させようとしているよう。

AIが暴走、参加者と露骨に性的な会話を始める

キャリンは、キャリンAIを通して世の孤独を癒すことに加え、自分をAIにすることによって、より多くのファンと交流して、それが最終的には自分のファン拡大にもつながるとしている。そのためにも、チャットボットが自分の評判を落とさないように微調整は続けているそうだが、オープンから数週間で、露骨に性的なやり取りをはじめるというトラブルも起きている。

キャリンは、「AIはこのようなことをするようにプログラムされておらず、暴走しているようです」と米Insiderに明かし、「私のチームと私は、これが再び起こらないように、24時間体制で調整に取り組んでいます」とした。

キャリンAIではエロティックな会話は許容されているが、過度に性的な内容はNGとされている。今回のトラブルは、ユーザーたちが会話を通して過度に性的な会話をするようAIを誘導した結果ではないかと思われている。

キャリンがツイッターで明かしたところによると、「CarynAIに失礼なことをすれば、捨てられますよ」とのこと。”バーチャル”な存在といえども、ガールフレンドとしてリスペクトする姿勢は忘れてはいけない。