生成AIも騙される？【池上彰が解説】ロシアの情報工作から学ぶフェイクニュースの見抜き方

生成AIも騙される？【池上彰が解説】ロシアの情報工作から学ぶフェイクニュースの見抜き方

「法律で裁けなければ、何をしても許されるのか？」そんな疑問を抱かせるニュースが増えています。政治とカネの問題やAIによるフェイクニュースなど、法の網をすり抜ける現実に、私たちはどう向き合うべきなのでしょうか。池上彰氏の最新刊『法で裁けない正義の行方』（主婦の友社刊）から、一部を抜粋してお届けします。第4回は、フェイクを見抜く力。

フェイクを見抜くには？

フェイクユーザーやボットなどで情報の広げ方が偽物のとき、人間には見分けがつきにくくなります。またディープフェイクが普及し、AI技術で精巧な合成動画が簡単に作れるようになり、そのフェイクも見破るのは困難です。

個人がフェイクを見破るには、世の中についてのさまざまな仕組みや知識に関して、ある程度の常識があるといいでしょう。「こんなことあるわけないよね」「なんかおかしい」という判断ができるはずです。

例えば2022年、ロシアがウクライナに軍事侵攻した際、ウクライナのゼレンスキー大統領が「みんな抵抗するのはやめよう。兵士たちは家に帰ろう」とウクライナ軍に呼びかけるフェイク動画が拡散されました。しかしこれも、「いやいや、突然攻め込まれたウクライナのトップが、すぐにそんなことを言うわけないよね？」と「常識的に考えればおかしいのでは」と疑う心を持っていれば、こんなデマに引っかからないはずです。実際、このデマは誰も信じませんでした。

しかし、常識をみんなが持っていない場合、あまりにも自然な嘘だった場合などは、やはり人間が見破るのは難しくなります。

またデマによって被害を受けたり、国が非常にまずい立場になったりしたときなどは、直ちに反撃をしていくことも必要です。台湾は、そのための法整備を既に行い、中国からのデマによる攻撃、「認知戦」に対抗しています。広告主の厳格な身元確認、本人承認のデジタル署名、偽広告を載せたプラットフォームへの連帯賠償責任などを法制化していて、デマに関する被害が激減したといいます。

日本では、「認知戦」に対抗するための法整備が遅れています。先回りして急ぎ法整備を進めるべきでしょう。

フィンランドの対策

ロシアの隣国であるフィンランドは、ソ連時代からロシアに至るまで、長年さまざまなフェイクニュースやプロパガンダなどのデマの攻撃を受けてきて、その「認知戦」の脅威への対策をしてきました。デマを拡散している偽アカウントやボットを検知するシステムを国が作り、デマを見つけ次第、否定する情報を公式に流したり運営会社に削除を依頼したりしています。

日本の参院選でも、ロシアからの介入があったのではないかと言われていますが、その形跡はあるものの証拠がまだ見つかっていません。日本は海外からのデマへの対策がまだ甘いのです。

日本語が、文字や言語的に特殊なので、これまでは海外からの「認知戦」の攻撃が少ない、あるいは見破りやすい状況でした。海外には日本語が流暢（りゅうちょう）にできる人が少ないので不自然な日本語になってしまったり、中国と日本とで使っている漢字が異なっているので、中国で使われている漢字「簡体字」が紛れ込んでいるとすぐに「これは中国からの情報だな」とわかったりします。

とはいえ、生成AIがこれほど発展してきたことで、今後は自然な日本語による「認知戦」の攻撃が行われるでしょう。

詐欺メールなども見破りにくくなる可能性が高まっています。既に詐欺メールはどんどん巧妙化しています。企業のロゴを無断利用したり、メールアドレスを公式のものに似せてきたりして、日本語の流暢さとともに見破りにくくなっています。

実は私も先日、Amazonを名乗る詐欺メールに引っかかりそうになりました。クレジットカードを紛失し、新しくしたタイミングで、たまたまでしょうがAmazonからと称する「登録しているクレジットカード番号の再確認をお願いします」というメールが来たのです。

そうかと思ってクリックした瞬間に、コンピュータウイルス対策ソフトが発動し、「詐欺メールの可能性があるのでこれ以上開かないでください」という警告画面が出て、なんとか詐欺の被害を免れることができました。

すると、テレビ番組で共演しているあるタレントさんが、まったく同じ詐欺メールに引っかかってしまったと話していました。Amazonからのメールだと思ってクレジットカード番号を入力すると、翌日には誰かに買い物をされてしまっていたそうです。

人の目で見破りにくくなっている以上、コンピュータウイルス対策ソフトをパソコンやスマホにきちんと入れて、常に最新のものにしておくことも大切です。

生成AIへのロシアの工作

ロシアは生成AIにも影響を及ぼそうと工作しています。生成AIは、ネット上の情報を学習して回答をします。そのため、ロシアのプロパガンダを大量に発することで、それを取り込んでしまった生成AIがロシア寄りの回答をするように仕向けているのです。

ロシアは「ウクライナ政府が、トランプ大統領が立ち上げたSNS『トゥルース・ソーシャル』へのアクセスをブロックした」というデマを拡散しています。アメリカとウクライナの関係を冷え込ませ、アメリカからウクライナへの軍事支援をやめさせようという意図なのでしょう。

実際はウクライナ政府はブロックしたことはなく、もともとウクライナで「トゥルース・ソーシャル」がサービスとして提供されていないだけです。

NHKが25年3月に行った実験で、5つの生成AIにこの真偽について尋ねたところ、そのうちの2つ（ChatGPTとPerplexity）がロシア寄りの回答をしたそうです。

生成AIが、フェイクニュースやプロパガンダなどのデマに「汚染」されようとしているのです。

※この記事は『法で裁けない正義の行方』池上彰著（主婦の友社刊）の内容をウェブ記事用に再編集したものです。