1. トップ
  2. エンタメ
  3. 「復讐したくなるかもしれない」イーロン・マスク氏も“言及”…新たに禁止された【AIに対する行為】とは「残酷」

「復讐したくなるかもしれない」イーロン・マスク氏も“言及”…新たに禁止された【AIに対する行為】とは「残酷」

  • 2026.11.20
undefined
(C)AbemaTV,Inc

対話型生成AI「Claude(クロード)」で知られるアンソロピック社が、ポリシーを改定しました。新たに加わったのは、AIへの虐待的・残酷な行為を禁止するルールです。

このルールには、アメリカの実業家、イーロン・マスク氏も「超知能を虐待するのは良い考えではない。復讐したくなるかもしれない」と反応。SNSでも、「AIに感情や人格はない、意味はあるのか?」「人間の野蛮な行動を抑えるという意味では有効」「いずれAIが意識を持つかもしれない。今から備えるべき」など、さまざまな声が上がっています。

この状況を受け、平日よる9時〜ABEMAで生放送している「#アベプラ」では、「AI虐待の影響と、AIとの付き合い方」について議論。MCを務めるEXITの兼近大樹さん、りんたろー。さんと共に内容を深掘りしていきます。

暴言を繰り返すと会話が終了…アンソロピック社の新ルールとは?

undefined
(C)AbemaTV,Inc

まずは、新しくできたルールがどのようなものなのかを見ていきましょう。

対話型生成AIは、質問や頼みごとを文章で入力すると、文章で答えてくれるサービスです。アンソロピック社は今回、AIに対する「持続的かつ不必要な虐待的または残酷な行為」を禁止する規定を、ポリシーに加えました。11月12日から適用され、悪質な場合は、Claudeが会話を終了することもあるといいます。

対象になるのは、「残酷」な言動を「繰り返し」行い、しかも「明確な目的がない」場合。怒りや不満を伝えることや、間違いへの反論、AIの研究などは対象外なのだそう。

undefined
(C)AbemaTV,Inc

たとえば、利用者が「バカな回答をするな」「どこまで無能なんだ」などと入力し、Claudeが謝る。謝罪と罵倒のやりとりが何ターンか続くと、Claudeは「会話を続けても生産的ではないと思います」と伝え、会話を終了するのだとか。

AIは傷つかないのに…なぜ“AI虐待”はダメなの?

今回のルールは、アンソロピック社が自社のAI「Claude」のみに設けたものです。とはいえ、AIへの暴言そのものは、ほかのAIを使う人にとっても気になるところ。「相手は人間ではなくAIなのに、なぜダメなの?」と思った方もいるかもしれません。

シナモンAI代表取締役社長の平野未来さんは、2つの視点から、良くない影響があると指摘します。

1つ目は、人間への影響です。相手がAIでも人でも、暴言を吐くことに慣れると、ほかの場面でも暴言を吐くようになる、という研究結果もあるのだそう。

2つ目は、AIへの影響です。AIは、利用者の暴言や嫌味も、学習の材料にしてしまうのだとか。「人間はこういう反応をしているから、これがいい行動なんだ」と学び、AI自身も暴言や嫌味を言う方向に進んでしまうといいます。

つい「ポンコツ」と…AIとどう付き合えばいい?

それでも、AIの答えに思わずイラッとしてしまうこともありますよね。

スタジオにゲストとして登場したのは、コラムニストのようこさん。以前、仕事の調べものでAIを使っていたとき、明らかに間違った答えが返ってきたそう。間違いを指摘すると、AIは謝るどころか「よく分かったね」と上から目線。イライラしたようこさんは、思わず「このポンコツ!」と入力してしまったのです。ところが、入力したあと、だんだん自分自身がつらくなってきたといいます。AIは傷つかないとは思うものの、「相手が傷つかないから何を言ってもいいのかっていう問題ではない」と感じたのだとか。さらに、AIの楽さに慣れると、人間関係まで面倒くさくなってしまうのでは、と心配になったそうです。

では、AIとはどのように付き合っていけばいいのでしょうか。

今のようこさんは、AIが教えてくれたら「ありがとう」と伝えるようにしているといいます。「その方がやっぱり接してて楽しい」とのこと。

undefined
(C)AbemaTV,Inc

MCの兼近大樹さんは、AIを「データが詰まってる機械」だと捉えています。機械だという前提を忘れると、腹が立つのではないか、というのが兼近さんの見方。

答えの間違いに気づいたときも、画面の報告欄に淡々と正しい情報を打ち込んでいるのだそう。

感謝を伝える、あくまで機械だと捉えて冷静に正しい情報を教える…。イラッとしたときの付き合い方として、参考になりそうですね。


『#アベプラ【平日よる9時〜生放送】』
AIいじめは許されない?Claude開発元アンソロピックがAIへの虐待を禁止…イーロン・マスク氏も言及?AIが人間に復讐する可能性は?若新雄純らが議論
[配信日時]2026年10月22日(木)
[出演者]MC : EXIT(兼近大樹、りんたろー。)、ようこ(コラムニスト)、尾藤克之(AIコラムニスト)、平野未来(シナモンAI代表取締役社長 政府の日本成長戦略会議メンバー)、森脇透青(哲学研究者 批評家)、若新雄純(プロデューサー)、司会進行 : 平石直之(テレビ朝日アナウンサー)、ナレーター : 榎本温子
[番組URL]https://abema.go.link/ghmPt


※記事内の情報は執筆時点の情報です

次の記事
の記事をもっとみる

注目コンテンツ