「ChatGPT以降の世界を生き抜くためのAIの教科書」三宅陽一郎 ✕ 吉浦康裕 〜後編〜

生成AIの限界を知る

三宅

欧米のAI観で最も重要なのは、言語へのこだわりです。欧米では知性＝言語。だからAIも言語方面で発達させるんですよ。

吉浦

だからChatGPTのような人工知能が発達するんですね。

三宅

はい。また、アルファベットが26文字しかないうえに、話者が多く学習データも豊富で、どんどん発展していく。ただし欧米では言語こそがアイデンティティなので、実存を脅かされているように人々は感じている。実際、イタリアはChatGPTが禁止になった。日本は言語領域に関しては危機感も薄く牧歌的です。

吉浦

イラスト生成の方が問題視されている印象がありますね。

三宅

ただ、ゲームの世界では生成AIの導入が難しい事情があります。例えば、セリフに政治的な発言が出てしまったり、自動生成した映像の中に他社のロゴが入ってしまったり。権利問題にもなりかねないので慎重になる。

吉浦

先日もゲーム『Fallout』の実写ドラマ宣伝画像が自動生成ではないかと指摘され炎上しました。Amazonという大企業のプロジェクトだから批判も大きかったですね。

三宅

生成AIの導入は法律的な問題で難しいんですよね。法律を遵守して二の足を踏んでいる間に、消費者が「無料でAIとしゃべれる時代に、なんで有料ゲームではしゃべれないんだ」と反発し、インディーズ作品に流れていくかもしれません。

吉浦

必ずしも企業が生成AIで効率的な作品作りができているわけではないんですね。ちなみにキャラクターの発言は、禁止ワードを指定することで不適切な発言を未然に防ぐことはできませんか？

三宅

それをやりすぎると、キャラクターが一言もしゃべれなくなるんです。問題のある用語をNGワードに指定すると、それを少しでも含む言葉が使えなくなる。

吉浦

なるほど、示唆的な話です。AIに限らず、一部の表現を規制したことで、全体に影響して表現の範囲が狭まる。「言葉狩り」のような規制が、創作に想定以上のダメージを与える点は見逃せません。

現実世界を経験できないAIは脅威ではない

吉浦

今、生成AIによる創作で話題になるのが、著作権の問題ですね。『アイの歌声〜』ではAIロボットのシオンが自ら歌を作って歌い、孤独な少女の心を癒やします。しかし、その楽曲がどうやって生まれたのか考えると、ネットにある無数の楽曲をコラージュしている可能性がある。制作当時は考えが及ばなかったのですが、最近はもととなる楽曲を制作した方の気持ちまで考えるようになりました。

三宅

でも、シオンは完全なスタンドアローン（＊7）型ではないにしても、画像生成AIのStable Diffusion（＊8）的なディープラーニングとは違う方法で学習しているのではないでしょうか。

（＊7）スタンドアローン
コンピューターやAI、機械がネットワークに接続せず、単独で動く状態を指す。

（＊8）Stable Diffusion
ロンドンに拠点を置くStability AI社が開発した画像生成AI。テキストを入力するとそれに沿ったイメージ画像が生成される。ほかにもOpenAI社のDALL・E 2、GoogleのPartiなどがある。

吉浦

たしかにそうなりますね。

三宅

今のAIは、ネットワークの中で学習して生成します。絵から絵を、文章から文章を生成する。

吉浦

二次創作的なことですね。

三宅

はい。でも、自律型AIのシオンはロボットの体を通して、現実世界を経験したうえで歌を創作している。その意味では、ディープラーニングとは違う手法で歌を生成していると言えますよね。

吉浦

言われてみるとそうですね。ネットワーク上で学習が完結している現在のAIと、実際にリアルを体験したうえで、その経験を基に創作する自律型AIの違いは大きい。

三宅

研究の世界ではAIが現実世界につながることを「接地（＊9）」または「グラウンディング」と言いますが、これは非常に難しい。それゆえにAI研究の世界でも、90年代以降、ネットワーク型を発展させる方向にシフトしたという経緯があるんです。AIが民主化するまでは、グラウンディングよりもネットワーク型の研究が進むと思われます。

（＊9）接地
AIが現実世界に根づくことを指し、グラウンディングとも呼ぶ。生成AIなどのネットワーク型人工知能は、言語という記号の組み合わせでアウトプットを行うが、このときAIは記号をリアルの事物や事象に対応させているわけではない。自律型AIロボットが実現するためには、記号と現実世界を対応させることが不可欠である。

吉浦

かつては自律型のロボットAI研究が主流だったけど、ネットワーク型に変わったと。アシモフの小説で、ネットワーク型が主流になり自律型は骨董品になる世界が描かれていたのを思い出しました。

三宅

自分のペットロボットが、実際にはネットワークとつながっていて、そこにある体とは無関係にクラウドに存在しているって、なんだか裏切られている気がする（笑）。

吉浦

『her／世界でひとつの彼女』もそんな話でした。男にとって最愛のAIには、ネットワークを介して数百人の彼氏がいるという（笑）。

三宅

ただ『her』の場合は、人工知能も変化する点がロマンティックです。実際のAIは人間とマンツーマンで会話しても、変わらないじゃないですか。『her』は会話を通してAIと人間が互いに影響し合い変化するコミュニケーションを見せている。恋ができるAIが実現するには、かなり時間がかかるでしょう。

吉浦

フィクションにしか描けないAIの可能性はまだあるんですね。希望が湧いてきました。

近未来に現実になる⁉AIを考えるゲーム、映画、本

profile

三宅陽一郎（ゲームAI開発者）

みやけ・よういちろう／東京大学生産技術研究所特任教授。ほかにも大学などの教授を務める。著書に『戦略ゲームAI解体新書』（翔泳社）、『人工知能のための哲学塾』（ビー・エヌ・エヌ新社）などがある。

profile

吉浦康裕（アニメーション監督）

よしうら・やすひろ／1980年北海道生まれ。大学在学中に制作した『キクマナ』や『水のコトバ』で多数の賞を受賞。2008年に『イヴの時間』で監督デビュー。監督作に『サカサマのパテマ』（13年）や『アイの歌声を聴かせて』（21年）など。