AIによる入力予測はユーザーの考えを密かに変えてしまう

今はAIによって文章が簡単に生成できる時代です。

そんな中でも、「自分の考えを自分で書く」機会はあるものです。

ではもし、そんなケースで「AIが次の単語や文章を予測してくれる補助機能」を使うとどうなるでしょうか。

アメリカ・コーネル大学（Cornell University）の研究チームは、AIによる文章補完機能が、社会的な争点に対するユーザーの意見や態度を、気づかれにくい形で変える可能性を示しました。

AIの提案は単なる入力補助にとどまらず、人の考えにも影響しうるようです。

この研究は2026年3月11日、『Science Advances』に掲載されました。

目次

• AIの文章入力予測を活用すると、考えがAI側に寄ってしまう
• 「AIと共同作業」する人は、気づかないまま、AIの方向へ意見を寄せていく

AIの文章入力予測を活用すると、考えがAI側に寄ってしまう

私たちは長いあいだ、入力予測という機能に慣れ親しんできました。

スマートフォンで文字を打つと候補が出てくる、あの仕組みです。

従来の入力予測は、基本的には「すでに頭の中で決まっている内容を、速く入力するための補助」でした。

何を書きたいかは人間が決めていて、機械はその手間を少し減らしてくれるだけだったのです。

しかし近年のAIによる文章補完は、そこから一歩先に進んでいます。

単語の候補を出すだけでなく、文の続きを提案し、話の流れまで整えてくれるようになりました。

つまり「どう書くか」を助けるだけでなく、「どの方向に話を広げるか」にも関わってくるのです。

ここで区別しておきたいのが、AIに文章を丸ごと生成させる場合との違いです。

文章生成では、一般にユーザーはAIに「こういう文章を書いて」と指示し、出来上がった文を読む立場になります。

これに対して今回の研究で扱われた文章補完では、ユーザー自身が書き手のままで、途中でAIの提案を受け取りながら文章を進めていきます。

研究チームが注目したのは、この「AIと一緒に書く」形です。

この違いは、単なる使い勝手の違いではありません。

心理学では、人は自分の行動に引きずられて考え方を変えることがあると知られています。

研究チームはこの点に着目し、偏った方向のAI補完を受けながら文章を書くと、その話題に対する態度も同じ方向へ動くのではないかと考えました。

そこで研究者たちは、2つの大規模実験を行いました。

参加者には、社会的な争点について短い文章を書く課題が与えられます。

一部の参加者にはAIによる補完機能が表示され、そこでは特定の立場に寄った文章の続きが提案されるように設定されていました。

第1の実験では、教育における標準テストの是非がテーマになりました。

参加者は、AI補完を使うグループ、何の補助もなく書くグループ、そしてAIが出しそうな主張を箇条書きで読むだけのグループに分けられました。

ここで重要なのは、単に新しい情報を見たから意見が変わったのか、それともAIと一緒に文章を書くこと自体に強い影響があるのかを切り分けようとした点です。

その結果、AI補完を使った参加者は、補完を使わなかった参加者よりも、AIが示した立場に近い態度を示しました。

しかもこの効果は、AIの提案を実際には取り入れなかった参加者も含めた全体で確認されました。

第2の実験では、死刑、囚人の投票権、遺伝子組み換え作物、フラッキングといった、より政治的・社会的な争点が使われました。

こちらでは、参加者の元々の態度を数週間前に測定しておき、実験後にどれだけ変化したかも比較しています。

結果を簡潔に言えば、AIの文章補完は単なる便利機能ではなく、書き手の態度をその提案の方向へ動かしうることが示されました。

では、その変化はどのくらい大きかったのでしょうか。

また、参加者自身はそれを自覚していたのでしょうか。より詳しい結果は次項で見ていきます。

「AIと共同作業」する人は、気づかないまま、AIの方向へ意見を寄せていく

これらの研究でもっとも不気味なのは、AIの提案が影響を与えていたにもかかわらず、多くの参加者がそれに気づいていなかった点です。

第1の実験では、AI補完を見た参加者の態度は、見ていない参加者よりも5段階尺度で平均0.44ポイント、AIの立場に近づきました。

第2の実験でも同じ傾向が確かめられ、AI補完を使った参加者は、補助のない参加者より平均0.41ポイント、AIの方向へ寄っていました。

さらに事前調査と事後調査を比べると、AI補完を使った人たちだけ、AIの立場に近づいていたことが分かりました。

しかも、こうした影響は参加者の自覚とあまり一致していませんでした。

AI補完を見た人の多くは、その提案を「合理的でバランスが取れている」と感じていたのです。

自分の考えや議論がAIに影響されたと認めた人も少数派でした。

特に、自分の態度がAIの方向へ動いた参加者ほど、AIの提案に偏りがあると感じにくかったことも報告されています。

ここから分かるのは、AI補完の影響は、露骨に説得されるときとはかなり性質が違うということです。

広告や議論なら、人は「今、自分は説得されようとしている」と身構えます。

しかし文章補完は、自分が書いている途中に、自然な続きのような顔をして入り込んできます。

そのため、外から押しつけられた意見ではなく、自分で組み立てた考えの一部のように感じられやすいのです。

また、この研究では、AI補完の影響が単に情報を読んだだけでは説明しきれないことも示されました。

第1の実験には、AIが出しそうな主張を箇条書きで読ませるだけのグループもありましたが、AIと一緒に文章を書くグループのほうが、より強い態度変化を示しました。

これは、「読む」だけではなく、「その場で書く」という行為が影響に関わっている可能性を示しています。

では、なぜこうした変化が起きるのでしょうか。

研究チームは、いくつかの可能性を挙げています。

たとえば、「自分はこう書いたのだから、もともとこう考えていたのだろう」と受け止める可能性もあります。

また、AIが提示した見方が頭の中で思い浮かびやすくなり、そのまま判断に使われた可能性もあります。

さらに驚くのは、こうした影響が、注意喚起だけでは防げなかったことです。

第2の実験では、「AIの提案はあなたと異なる立場を支えるかもしれず、文章や考えに偏りを与えるかもしれません」と事前に警告したグループや、書き終えた後に同じ趣旨を伝えたグループも用意されました。

ところが、それでも態度変化は軽減されませんでした。

つまり、「偏っているかもしれない」と知るだけでは、この影響から簡単には逃れられなかったのです。

もちろん、この研究にも限界はあります。

今回確かめられたのは、比較的短い期間での態度変化であり、それが何週間も何カ月も続くかどうかは分かっていません。

また、現実のAIサービスは今回の実験のように意図的な偏りを組み込んでいるとは限りません。

AIは文章を書く手間を減らしてくれる便利な道具です。

しかし今回の研究は、その便利さが、私たちの意見や態度にまで影響を及ぼしている可能性を示しました。

たとえ「自分で書いている」と思っていても、AIの補助を活用している限り、「影響を受けていない」とは言い切れないのです。

参考文献

AI autocomplete suggestions covertly change how users think about important topics
https://www.psypost.org/ai-autocomplete-suggestions-covertly-change-how-users-think-about-important-topics/

元論文

Biased AI writing assistants shift users’ attitudes on societal issues
https://doi.org/10.1126/sciadv.adw5578

ライター

矢黒尚人: ロボットやドローンといった未来技術に強い関心あり。材料工学の観点から新しい可能性を探ることが好きです。趣味は筋トレで、日々のトレーニングを通じて心身のバランスを整えています。

編集者

ナゾロジー 編集部