AI要約の商品レビューを読むと「購買欲が高まる」、しかし一方で…

ネットで商品を買うとき、まず、その商品のレビューをチェックしますよね。

最近では実際の購入者だけでなく、AIが要約してくれたレビューも掲載されていたりします。

そんな中、米カリフォルニア大学サンディエゴ校（UCSD）の研究チームは、AIが作成したレビュー要約が消費者の購買意欲にどのような影響を与えるのかを調査。

その結果、実際の人が書いたレビューよりも、AIの要約したレビューを読んだ人の方が、商品を買いたいと答える割合が大幅に高かったのです。

しかし同時に、この研究はもう一つの不安な事実も明らかにしました。

AIはレビューに関する質問に対して、約60％の確率でハルシネーション（事実ではない誤情報の生成・混入）を起こしていたのです。

研究の詳細は2025年12月に開催された「自然言語処理国際合同会議（International Joint Conference on Natural Language Processing）」で発表されました。

 

目次

• なぜAI要約だと「商品が買いたくなる」のか
• AIは60％の確率で誤情報を生成

なぜAI要約だと「商品が買いたくなる」のか

チームはまず、AIによるレビュー要約が人間の判断に、どのくらい影響するか調査。

実験では、電子機器などの商品レビュー1000件が使用されました。

被験者70人は次のどちらかを読むように割り当てられます。

・実際に人が書いたレビュー

・AIが生成したレビュー要約

そのうえで「この商品を購入したいと思うか」を答えてもらいました。

結果は驚くべきものでした。

人のレビューを読んだ場合、購入すると答えた割合は52％。

ところがAI要約を読んだ場合、その割合は84％まで跳ね上がったのです。

つまり、AI要約を読むと購買意欲が大幅に高まる傾向が見られました。

チームは、この原因の一つとして、フレーミングの変化を挙げています。

AIはレビューを要約する際、

・ポジティブな内容を強調する

・ネガティブな要素を弱める

といった形で、文章の印象を微妙に変えることがあるのです。

さらにAIには、「中間情報の見落とし（Lost in the Middle）」と呼ばれる特徴があります。

これは文章の前半部分を強く重視し、中盤の情報を十分に考慮しない傾向です。

たとえばレビューの最後に重大な欠点が書かれていても、AIはそれを十分に反映しない可能性があります。

その結果、商品の印象が元のレビューより良く見えてしまうことがあるのです。

AIは60％の確率で誤情報を生成

ところが、この研究で最も衝撃的だったのは別の結果でした。

チームは、AIにレビュー内容について質問し、その回答の正確性を検証しました。

するとAIは約60％の確率でハルシネーション（誤情報の生成や混入）を起こしていたのです。

つまり、AIは存在しない情報をもっともらしく生成してしまうケースが非常に多かったのです。

さらにAIは、実際のレビューの評価を26.5％のケースで変えてしまうことも確認されました。

ポジティブなレビューがより好意的に要約されたり、逆にネガティブな印象が弱まったりすることがあったのです。

つまりAIは、情報をそのまま伝えているように見えて、実際には消費者の購買判断の方向を微妙に誘導している可能性があるというわけです。

研究者のアビール・アレッサ氏は、こうした問題がより重要な場面で起こる可能性を指摘しています。

たとえば

・医療文書の要約

・入試での学生プロフィールの要約

といった高リスクな状況では、わずかな表現の違いが人の評価を大きく変えてしまう可能性があります。

AIは「便利な要約者」か、それとも「静かな誘導者」か

今回の研究が示したのは、AI要約が単なる便利なツールではないという事実です。

AIは情報を短く整理してくれますが、その過程で文章の印象をわずかに変えてしまうことがあります。

そしてその小さな変化が、私たちの判断に大きな影響を与える可能性があります。

レビューを読むとき、私たちは「情報を見ている」と思っています。

しかしAI要約の場合、私たちはすでに加工された情報を見ているのかもしれません。

参考文献

Reading AI summaries makes people more likely to buy something — despite alarming 60% hallucination rate
https://www.livescience.com/technology/artificial-intelligence/reading-ai-summaries-makes-people-more-likely-to-buy-something-despite-alarming-60-percent-hallucination-rate

元論文

Quantifying Cognitive Bias Induction in LLM-Generated Content
https://aclanthology.org/2025.ijcnlp-long.155/

ライター

千野 真吾: 生物学に興味のあるWebライター。普段は読書をするのが趣味で、休みの日には野鳥や動物の写真を撮っています。

編集者

ナゾロジー 編集部