AmazonにAI執筆の本が大量出品、AIからのエラー文が残ったままの記事も

ECサイト「Amazon」上でAIが執筆した書籍が出版されている。チャットGPTが爆発的に広まったことで、誰でも容易に本や記事を作成できるようになったが、すでに多くの問題が見られている。（フロントロウ編集部）

人間が1年かけて書いた本の類似本をAIが執筆

AIが人間の仕事を奪うのか。この質問は、米オープンAIが開発した「ChatGPT」の大流行を境にビッグテーマとなっているが、AmazonにはすでにAIが執筆した本が続々と出品されている。

例えば最近では、inKstallという出版社がAI執筆の本を大量にAmazonに出品しているのではないかと疑われた。米Washington Postが5月に報じたところによると、同出版社の本のひとつは、オレゴン州のソフトウェア開発者が執筆したハウツー本と全く同じテーマで書かれていたが、ChatGPTなどの生成AIを利用した形跡があったという。

著者にはマリー・カルポスと記載されていたが、オンライン上にこの人物の情報は1つもない。本を出版したムンバイの教育系企業は同じような技術本を数十冊以上Amazonで販売しており、著者はばらばらだが、いずれもインドからの複数のレビューで5つ星の評価を得ていた。著者のクリス・コーウェルは、1年以上かけて書き上げた文章を盗まれたことになる。

Amazonはワシントンポスト紙がコメントを求めた後、同出版社が販売している他の書籍とともに当該書籍を削除。ただし、AIの活用自体はAmazonの規約に違反するわけではなく、一部の書籍はChatGPTを使用したことを明示して販売している。

AIを使用した誤情報がネット上に広がりつつある

コーウェル氏の事例は氷山の一角に過ぎない。書籍だけでなく、オンライン上のあらゆるコンテンツにおいてAIの蔓延が危ぶまれている。

オンラインニュースのソースの信頼性を測定する会社NewsGuardによると、大部分または完全にAIによって作成されたと思われるコンテンツを提供しているWebサイトが4月だけで49件もあったという。

そのなかには、「私は1500文字を出力できません」という、AIからサイト運営者側へのメッセージがそのまま掲載されているパターンもあったそうで、人のチェックがゼロのまま掲載されている記事もあることが分かった。NewsGuardは複数の当該サイトにコンタクトを取ってみたものの、AIの使用を認めたのは2社のみで、ほとんどと連絡が取れなかったという。そして、AIによって書かれた記事の中には誤情報が多く見られた。

AIを使って誤情報を発信してしまうというミスは大手メディアにも言えることで、テクノロジーニュースサイトのCNETは、開示なくAIが作成した記事を提供していることが分かり非難を浴びた。報道を受けてCNETが調査したところ、77記事でAI使用の形跡が見つかり、その文章の多くに誤りが含まれていることが判明したという。一方、米Buzzfeedのように、AI活用を明言してコンテンツ作成しているメディアもある。

Googleは2月、AIが生成したコンテンツを検索結果に表示することを許可すると明らかにした。同社はアルゴリズムについて「コンテンツの制作方法ではなく、コンテンツの品質」に重点を置いていると話している。

ネット社会はすでに誤情報が蔓延しているが、多くの専門家たちは、AIの導入は誤情報の蔓延を信じられないほどのレベルに達しさせると警鐘を鳴らしている。一方、イタリアに本拠を置くエンジニアリング・グループのアプリケーション・リサーチ・ディレクターのフランチェスコ・ヌッチ氏は、「AIは論理上の問題が多くはらみます。しかし時には、解決策にもなりえます。例えばフェイクニュースを作って広めるなど、非倫理的な方法でAIを使うこともできますが、誤報に対抗するなど、良いことをするために使うこともできます」と、欧州委員会によるプログラムHorizon Europeに語っている。

テレビやスマートフォンなど、生活様式を変えるようなテクノロジーの出現は、プラスもあったがマイナスもはらんできた。テクノロジーの発展と比例して人間自身が衰退していかないようにするにはどうしたら良いのか。ビッグテーマの議論は続く。（フロントロウ編集部）