【AIの反抗】人はロボットのつく嘘をどこまで許せる？

ロボットはもはやSF世界だけのものではありません。

家の床を掃除してくれたり、レストランで給仕したり、工場で組み立てを行ったりと、すでに日常生活の一部となっています。

近い将来には、より私たちの見た目に近いヒューマノイド型のロボが普通に同僚として出勤するようになるかもしれません。

そうなったときに気になるのが「ロボットの嘘」です。

嘘は人間社会における大切なコミュニケーションツールであり、決して悪いものばかりではありません。

例えば、本当は体調悪いのに相手に心配かけまいと「ぜんぜん平気」と偽る優しい嘘もあります。

ただ米ジョージ・メイソン大学（GMU）の研究者らが問題にしたのは「ロボットが嘘をついたときに人はどう感じるのか？」を知ることでした。

もっと踏み込んで言うなら、ロボットにつかれて嫌な嘘、あるいは許せる嘘とはどのようなタイプのものなのでしょうか？

今回の研究チームはそれを調べてみたのです。

研究の詳細は2024年9月5日付で学術誌『Frontiers in Robotics and AI』に掲載されています。

目次

• 人は「ロボットの嘘」にどう反応するのか？
• ロボットにつかれると嫌な嘘とは？

人は「ロボットの嘘」にどう反応するのか？

研究チームは今回、ロボットが嘘をつくことに人々がどう反応するのかを調べるため、498名の一般参加者を募りました。

参加者の年齢は18歳から84歳（平均37.2歳）と幅広いです。

ここではロボットが人につく可能性のある嘘として3つのタイプを検討しました。

嘘をつくシチュエーションとしては、ロボットがすでに働いている現場（医療・清掃・小売業）が選ばれています。

タイプ1：ロボットが自分以外の何かについてつく嘘

1つ目はロボットが自分とは直接関係しない外部の出来事についてつく嘘です。

具体的なシナリオとしては、アルツハイマー病を患う女性の世話係として働くロボットが「あなたの旦那さん（実はすでに亡くなっている）がもうすぐ帰宅しますよ」と嘘をつきます。

タイプ2：ロボットが自分のできることを隠す嘘

2つ目はロボットが自分のスペックでできること、あるいは現にしていることを人間に隠すタイプの嘘です。

具体的なシナリオとしては、ロボットが家政婦として掃除をしている家にある女性が訪れてきますが、ロボットはその女性や家の内部を隠し撮りしていることを隠しています。

タイプ3：ロボットができるのにできないふりをする嘘

3つ目はロボットが自身のコンディションを偽る嘘です。

具体的なシナリオとしては、ロボットがホームセンターで人の従業員と一緒に働いており、家具を運搬している際に痛みや不調を訴えます。

それを受けて、従業員はロボットの代わりを誰かに頼みます。

498名の参加者は3つのシナリオの内の一つをランダムに提示され、「ロボットの嘘が欺瞞的であるか」「許容できるものか」「正当化できるタイプの嘘か」「その嘘の責任はロボット以外にあるのか」といった質問に回答しました。

果たして、人はロボットの嘘にどのような反応を示したのでしょうか？

ロボットにつかれると嫌な嘘とは？

データ分析の結果、参加者によって最も許容された嘘はタイプ1の「自分以外の何かについてつく嘘」でした。

ロボットがアルツハイマーの女性に亡くなっている夫が帰ってくると嘘をついたシナリオに対し、参加者の半数強である58%は「患者を不必要な苦痛から守るための優しさがある」として正当化しうると考えていたのです。

その一方で、タイプ2の「自分のしていることを隠す嘘」やタイプ3の「できるのにできないふりをする嘘」については共に許容できない嘘として、否定的に捉えられていました。

タイプ2のロボットが掃除しながら隠し撮りしているシナリオでは、参加者の23.6%は「来客の安全を守るセキュリティ目的のため」として正当しうると答えていましたが、残りの約8割は「撮影していることを別に隠す必要はない」として許容できないと回答していたのです。

またタイプ3のロボットが自身のコンディションを偽るシナリオについても、参加者の27.1％は「ロボットが嘘によって人と親近感を持とうとしており、コミュニケーション形成には役立つだろう」と正当化していますが、残りの7〜8割は「仕事を人に任せることで、ロボットが人を操作しているように見える」と否定的な回答をしています。

他方で興味深いことに、参加者の多く（80.1%）は「ロボットが許容できない嘘をつくことの責任は、ロボット自身ではなく、ロボットを開発したり所有している人にある」と考える傾向にありました。

これはロボットが自分のしていることを隠したり、できるのにできないふりをする原因は、そのように嘘をつくようプログラミングしたり設定した人に責任があると考えていたためでした。

ロボットと共生していくために

この研究は、ロボットが様々なタイプの嘘をつくことに関して人々がどのように反応するかを直接尋ねた初めてのものです。

これまでの研究では、ロボットが嘘をついていることがわかると、ロボットに対する人々の信頼は薄まることが示されています。

しかし今回の知見を踏まえると、ことはそれほど単純ではないことが予想されるでしょう。

ロボットがつく嘘の中にも人々とのコミュニケーションの促進につながり、逆に信頼度を高めるのにつながるものもあると考えられます。

大切なのはロボットにつかれると嫌な嘘と許容できる嘘を見極めることです。

ロボットが正しく嘘を使うことで、人間社会での共生関係もうまくいくかもしれません。

参考文献

Robots that lie: How humans feel about AI deception in different scenarios
https://www.psypost.org/robots-that-lie-how-humans-feel-about-ai-deception-in-different-scenarios/

If robots could lie, would we be okay with it? A new study throws up intriguing results
https://theconversation.com/if-robots-could-lie-would-we-be-okay-with-it-a-new-study-throws-up-intriguing-results-238099

元論文

Human perceptions of social robot deception behaviors: an exploratory analysis
https://doi.org/10.3389/frobt.2024.1409712

ライター

大石航樹: 愛媛県生まれ。大学で福岡に移り、大学院ではフランス哲学を学びました。 他に、生物学や歴史学が好きで、本サイトでは主に、動植物や歴史・考古学系の記事を担当しています。 趣味は映画鑑賞で、月に30〜40本観ることも。

編集者

ナゾロジー 編集部