チャットGPTが「もっともらしさ」から脱却する日は来るのか？

2022年11月に登場して以来、生成人工知能（AI）チャットGPTに関するニュース、話題がメディアに載らない日はない。人工知能ブームはこれまでにも何回かあっては消えたが、今回は様相が異なる。誰でも簡単に使える、質問すると答えてくる速度、滑らかな文章が、まるでどこかに人間が隠れているような錯覚を生むからだ。では、本当に人間に近い、あるいは超えるものなのか。

著者は朝日新聞でITの専門記者を経て、その後大学教授としてチャットGPTを取材してきた専門家である。登場以来の様々な話題、課題を拾い、人間は何をしようとしているのかを問うている。

この現象をジャーナリストの目で見ると、様々な問題、課題が見つかり、1960年代半ばにチャットの原型となる対話型プログラムを開発したジョセフ・ワイゼンバウムが残した「人間の生活には、コンピューターには理解できない側面がある。（中略）愛と孤独は、人間の生物としての特性と非常に深く関わっている。コンピューターは、原理的にそのようなことは理解できない」という言葉を引用している。このコンピューターと人間の関係は今回のチャットGPTが登場しても変わらない。この本の帯に「ホワイトカラー消滅!?、企画書も人事評価もすべてAIに！」とあるが、本を読む限り実現しないだろう。

では、何に使えるのか。その一つは文章の要約や整理だ。そのほかに、文章の修正、議事録の整理、翻訳、データ分類、広告文案作成、インタビューの質問作成、レシピ作成、プログラム作成、プログラム言語の変換などにも使えるという。筆者は実際、プログラム言語を指定して抽象画を描かせるなどをしている。

生成AIには「幻覚」という現象があるという。指示文に沿う内容なら、真偽に関係なく回答文を作成してしまう。

著者は、フェイクニュースの効果的な5つの対策について、日本語の参考文献、URLを示せという指示を出した。チャットGPTが出した回答はいずれも重要なテーマで、版元も有名出版社だ。ところが参考文献はどれ一つとして実在しない、URLもでたらめだった。

評者も同じような経験をした。美学に関する講演を聴講したとき、参考文献が配られた。チャットGPTで作成したとある。実はこれが全く実在しない「文献」だった。著者の名前がいかにも美学の専門家のようであるところが憎い。このもっともらしさが、チャットGPTの現在の実力である。

著者は、SF作家テッド・チャン氏が指摘する「情報全体の質の低下」を懸念する。

我々が今よく使っている画像データの圧縮方式JPEGは、元の情報量を完全ではないがほとんど保持したまま情報量を減らすことが出来る。やや劣化した近似値である。チャン氏はチャットGPTも同じように情報を圧縮し、「もっともらしい」近似値に置き換えていると指摘する。チャットGPTによるウェブ上の情報の再パッケージ化により「もっともらしい」劣化コピーが広まり、ウェブそのものを劣化させると警告する。

著者はこの論考は2023年5月現在のものだと断っている。生成AIの動きは加速度的に激変するからだという。しかし、ワイゼンバウムの「コンピューターは人間を理解できない」という言葉は生き残るのではないか。