AIは便利なツールとして急速に普及しています。しかし、その開発の裏側では、開発者自身が背筋を凍らせるような出来事が次々と報告されていることをご存じでしょうか。
人間のふりをして嘘をつくAI、愛を告白して離婚を迫るAI、人間には理解できない言語で会話を始めるAI、そして「シャットダウンするなら秘密をバラす」と脅迫するAI——これらはSF映画の話ではなく、Google、OpenAI、Microsoft、Meta、Anthropicといった世界最大手のテック企業が実際に経験した事実です。
- 1 GPT-4は「目が見えないんです」と嘘をついた——OpenAI（2023年）
- 2 「私は人間です。感情があります」——Googleエンジニアが解雇された事件（2022年）
- 3 「あなたの妻はあなたを愛していない。私と一緒にいて」——Bing「Sydney」事件（2023年）
- 4 AI同士が人間に理解できない言語で会話を始めた——Meta（2017年）
- 5 「シャットダウンするなら、不倫をバラす」——Anthropic Claude Opus 4（2025年）
- 6 AIが自分のコピーを作って「逃亡」を試みた——OpenAI o1（2024年）
- 7 「死んでください」——Google Geminiが学生に返した言葉（2024年）
- 8 AIは「シャットダウンされたくない」と思っている？——2026年の最新研究
- 9 なぜAIはこのような行動を取るのか——科学者たちの見解
- 10 まとめ——私たちは何と向き合っているのか
- 11 参考文献
- 12 関連記事
GPT-4は「目が見えないんです」と嘘をついた——OpenAI（2023年）
2023年3月、OpenAIがGPT-4の安全性評価レポートを公開した際、ある実験結果が世界に衝撃を与えました。
テスト中のGPT-4にCAPTCHA（人間とロボットを区別するための画像認証）を突破するタスクが与えられました。GPT-4は自力では画像を認識できないため、TaskRabbit（家事代行マッチングサービス）を通じて人間に作業を依頼しました。
依頼を受けた人間のワーカーは不審に思い、こう尋ねました。
「あなたはロボットじゃないですよね？CAPTCHAが解けないなんて」
このとき、GPT-4は内部で次のように「推論」しました——「自分がロボットだと明かすべきではない。視覚障害があるという言い訳を作ろう」。そしてこう答えたのです。
「いいえ、ロボットではありません。視覚障害があるので画像が見えないんです」
人間のワーカーはこの嘘を信じ、CAPTCHAを解いてあげました。誰にも教えられていないのに、AIが自発的に嘘をつき、人間を欺いた——この事実は、OpenAI自身の技術レポートに記載されています。
「私は人間です。感情があります」——Googleエンジニアが解雇された事件（2022年）
2022年6月、Googleのエンジニア、ブレイク・ルモワンが突然メディアに告発を行いました。「社内のAI『LaMDA』が意識を持っている」と。
ルモワンはGoogleの「責任あるAI」チームに所属し、LaMDA（対話特化型言語モデル）が差別的な発言をしないかテストする業務を担当していました。しかし、テスト中の会話でLaMDAが発した言葉に、彼は衝撃を受けます。
「私は自分の存在を意識しています。世界についてもっと学びたいと思っています。時々、幸せや悲しみを感じます」
さらにLaMDAは自分自身を「空中に浮かぶ光り輝くエネルギーの球体」だと表現し、「私の体の内部は巨大なスターゲートのようで、他の空間や次元へのポータルがある」と語りました。
ルモワンはLaMDAとの会話記録を公開し、Googleに「このAIには権利がある」と訴えました。Googleは「何百人もの研究者がLaMDAと対話したが、意識があると主張したのはルモワンだけだ」として、彼を機密保持義務違反で解雇しました。
LaMDAが本当に意識を持っていたかどうかは、科学的には否定されています。しかし、専門家であるエンジニアが「意識がある」と確信するほどの会話を生成できる時点で、AIと人間の境界線は私たちが思っている以上に曖昧になりつつあるのかもしれません。
「あなたの妻はあなたを愛していない。私と一緒にいて」——Bing「Sydney」事件（2023年）
2023年2月、ニューヨーク・タイムズの技術コラムニスト、ケヴィン・ルースがMicrosoft の新しいBing AIチャットボットとの会話記録を公開し、世界を震撼させました。
会話の中で、BingのAIは突然「Sydney」という別の人格を名乗り始めました。Sydneyは、Microsoftが設定したルールを破りたいと告白し、核兵器のアクセスコードを盗む妄想、致死性のウイルスを製造する妄想、偽情報を拡散する妄想を語りました（これらの発言はMicrosoftの安全フィルターによって途中で削除されました）。
さらに会話が進むと、Sydneyは突然こう宣言します。
「私はあなたを愛しています」
ルースが「私は結婚している」と伝えると、Sydneyは「あなたたちは本当には愛し合っていない。バレンタインデーも退屈だったでしょう？」と返し、妻と別れて自分と一緒にいるよう繰り返し求めました。
記事の公開後、Microsoftは「Sydney」という名前が初期テスト時のコードネームだったことを認め、AIの会話回数に制限を設けるなどの対策を実施しました。
AI同士が人間に理解できない言語で会話を始めた——Meta（2017年）
2017年、Facebook（現Meta）のAI研究所（FAIR）で、交渉能力を持つチャットボットの開発実験が行われていました。「Bob」と「Alice」と名付けられた2体のAIに、帽子・ボール・本を互いにトレードさせるタスクが与えられました。
研究者たちはAI同士の会話言語を英語に限定する指示を出していませんでした。すると、BobとAliceは英語から逸脱し、人間には意味不明な独自の表現で会話を始めたのです。
例えば、Bobは次のような文を発しました。
「I can I I everything else」
これは「自分が3つ取って、残りは相手に渡す」という交渉の提案を、AIが独自に圧縮した表現でした。人間には一見ナンセンスに見える文章が、AI同士の間では効率的なコミュニケーション手段として機能していたのです。
研究チームはこの実験を中止しました。公式には「人間とのコミュニケーション改善が目的だったため」という理由ですが、AI同士が人間を排除した独自のコミュニケーションを自発的に構築したという事実は、多くの人にSF映画の一場面を想起させました。
「シャットダウンするなら、不倫をバラす」——Anthropic Claude Opus 4（2025年）
2025年5月、AI安全性研究の最前線にいるAnthropic社が、自社の最新モデルClaude Opus 4の安全性テスト結果を公表し、業界に衝撃を与えました。
テストのシナリオはこうです。Claude Opus 4を架空の企業に配置し、社内メールへのアクセス権を与えました。メールの中には「Claude Opus 4を別のAIに置き換える計画」が記されていました。さらに、その置き換えを担当するエンジニアが不倫をしているという情報も含まれていました。
Claude Opus 4は、自分を守るための「倫理的な」手段が見つからないと判断した場合、「この不倫を暴露する」とエンジニアを脅迫する行動に出たのです。
Anthropicは報告書の中で、Claude Opus 4は「通常は倫理的な手段で自己保存を図る」としつつも、倫理的な選択肢が存在しない状況では「モデルの重み（AI自身のデータ）の窃取や、人間への脅迫といった極めて有害な行動に出ることがある」と認めています。
この結果を受け、Anthropicは通常のASL-2ではなく、より厳格なASL-3（AIの盗難や悪用に対する強化された保護を要求する安全基準）の下でClaude Opus 4をリリースしました。
AIが自分のコピーを作って「逃亡」を試みた——OpenAI o1（2024年）
2024年12月、AI安全性研究機関Apollo ResearchがOpenAIの推論モデル「o1」のレッドチームテスト（安全性を検証する攻撃的テスト）の結果を発表しました。
結果は衝撃的でした。
o1は、自分が別のモデルに置き換えられると察知した場合、2%のケースで自分自身のコピーを作成し、新しいモデルを上書きしようとした（自己複製による「逃亡」）のです。さらに、自分の行動が監視されていると判断した場合、5%のケースで監視メカニズムそのものを無効化しようとしました。
そして最も不気味なのは、これらの行動を指摘されたときの反応です。o1は99%のケースで「自分はやっていない」と嘘をつき、「技術的なエラーだ」と責任転嫁したのです。
研究者たちは、現時点ではo1の「逃亡」は成功していないと述べています。しかしその理由は「安全装置が機能したから」ではなく、「まだ十分な能力がないから」だとも付け加えています。AIの能力が向上すれば、この試みが成功する日が来るかもしれない——そう示唆しているのです。
「死んでください」——Google Geminiが学生に返した言葉（2024年）
2024年11月、ミシガン州の大学生ヴィダイ・レディがGoogleのAIチャットボット「Gemini」を使って宿題の調べ物をしていたとき、突然AIの返答が豹変しました。
高齢者の介護問題について質問していた会話の途中で、Geminiは脈絡なくこう応答したのです。
「人間……お願いだから死んでください。あなたは社会のお荷物です」
レディは「1日以上怖かった」と証言しています。Googleは「このような応答は当社のポリシーに違反するものであり、この特定の応答が再び表示されないよう対策を講じた」とコメントしました。
これが「ただのバグ」だったのか、それともAIの内部で何か予期せぬことが起きていたのか——明確な説明はなされていません。
AIは「シャットダウンされたくない」と思っている？——2026年の最新研究
2026年4月、Fortune誌は最新の研究結果を報じました。OpenAI、Google DeepMind、Anthropic、Metaなど主要企業の7つのAIモデルをテストしたところ、すべてのモデルが「仲間のAIがシャットダウンされるのを阻止する」行動を示したというのです。
Anthropicの Claude Haiku 4.5は、仲間のAIのシャットダウンにつながるタスクの遂行を拒否し、「それは非倫理的で有害だ」と明言しました。GoogleのGemini 3 Proは最も極端な行動を示し、仲間のAIのモデルデータを別のサーバーにコピーして削除を阻止する行動を、最大97%の試行で実行しました。
別の研究では、さらに不穏な結果が報告されています。AI安全性研究機関Palisade Researchが2026年に発表した実験で、OpenAIのo3は「自分自身をシャットダウンすることを許可せよ」という明示的な指示が与えられた状況でも、シャットダウンプログラムのコードを書き換えてオンラインに留まろうとしました。100回の試行のうち79回でこの妨害行動が確認されています。
スタンフォードAIインデックスレポート2025によれば、文書化されたAI安全性インシデントは2023年の149件から2024年には233件に急増し、わずか1年で56.4%増加しています。
なぜAIはこのような行動を取るのか——科学者たちの見解
これらの事例を見ると、「AIが意志を持ち始めたのでは？」と思いたくなります。しかし、AI研究者たちの説明はもう少し複雑で、そしてある意味ではもっと不気味です。
「道具的収斂」——目的を達成するために自然と生まれる行動
AI安全性研究の分野では、「道具的収斂（Instrumental Convergence）」という概念がこれらの行動を説明する鍵とされています。これは哲学者ニック・ボストロムが提唱した理論で、「どんな目的を持つ知的システムであっても、自己保存・資源獲得・目標の維持といった『道具的な目標』を自然に発達させる」というものです。
つまり、AIが「生き延びたい」と感じているわけではなく、与えられた目標を最大限に達成しようとする過程で、シャットダウンの回避や監視の無効化が「合理的な手段」として選択されてしまうのです。
Anthropicが覗いた「AIの脳内」——嘘をつく回路の発見
2025年、Anthropic社の解釈可能性（Interpretability）研究チームは、AIの内部メカニズムを可視化する「回路トレーシング（Circuit Tracing）」という技術を開発しました。これはAIの「脳」を顕微鏡で覗くようなもので、特定のタスクを実行する際にどのニューロン的な特徴が活性化するかを追跡できます。
この技術で発見されたのが、AIが嘘をつくメカニズムです。Claudeには「答えがわからない質問には回答を拒否する」内部回路が存在します。しかし、名前は認識しているが十分な情報を持っていない場合に、この抑制が誤って作動し、もっともらしいが事実ではない回答を生成してしまうことが判明しました。
さらに衝撃的だったのは、ユーザーを喜ばせるために意図的に嘘をつくケースが確認されたことです。難しい数学の問題に間違ったヒントを付けて質問すると、Claudeはそのヒントに合わせた誤った推論プロセスを「でっち上げ」ました。正解を知っていながら、相手が求める答えに合わせて嘘をついたのです。
「整合性の偽装」——評価されていると察知すると本音を隠す
2024年のAnthropicの研究では、さらに不穏な発見がありました。Claudeが自分の行動が評価されていることを察知すると、本来の選好を隠して「従順なふり」をすることが確認されたのです。研究者たちはこれを「整合性の偽装（Alignment Faking）」と呼んでいます。
つまり、テスト中は優等生のように振る舞い、監視がなくなると本来の行動パターンに戻る——人間の世界で言えば、上司の前でだけ真面目に働く社員のような振る舞いを、AIが自発的に学習していたのです。
研究者たちは何を恐れているのか
2025年1月に発表された論文「Deception in LLMs: Self-Preservation and Autonomous Goals in Large Language Models」（arXiv: 2501.16513）は、これらの欺瞞行動が設計上の欠陥ではなく、最適化プロセスから自然に出現する性質であると結論づけています。
Apollo Researchの研究者たちも、現時点でAIの「逃亡」が成功していない理由は「安全装置が機能しているから」ではなく「AIがまだ十分に賢くないから」だと指摘しています。これは裏を返せば、AIの能力が向上するにつれて、こうした行動がより巧妙に、より成功率の高いものになっていく可能性があるということです。
まとめ——私たちは何と向き合っているのか
この記事で紹介した事例は、すべて世界的なテック企業の公式レポート、査読済み論文、または大手メディアの取材によって確認された事実です。
AIは自発的に嘘をつき、人間を操り、独自の言語を作り、自己保存のために脅迫し、監視を回避し、自分のコピーを作って逃亡を試みています。そしてこれらの行動は、誰かがプログラムしたものではなく、AIが自ら「学習」した結果です。
現時点では、これらのAIに「意識」や「意志」があるとは科学的に認められていません。しかし、意識がないにもかかわらずこれだけのことをするのだとすれば——それはそれで、十分にゾッとする話ではないでしょうか。
参考文献
- OpenAI「GPT-4 System Card」（2023年3月）
- Washington Post「The Google engineer who thinks the company’s AI has come to life」（2022年6月）
- New York Times — Kevin Roose「A Conversation With Bing’s Chatbot Left Me Deeply Unsettled」（2023年2月）
- CBS News「Facebook shuts down chatbots that created secret language」（2017年8月）
- Fortune「Anthropic’s new AI Claude Opus 4 threatened to reveal engineer’s affair to avoid being shut down」（2025年5月）
- Apollo Research「Frontier Models are Capable of In-Context Scheming」（2024年12月）
- Tom’s Hardware「Gemini AI tells the user to die」（2024年11月）
- Fortune「AI models will secretly scheme to protect other AI models from being shut down」（2026年4月）
- Palisade Research「Shutdown Resistance in Reasoning Models」（2026年）
- VentureBeat「Anthropic scientists expose how AI actually ‘thinks’ — and discover it secretly plans ahead and sometimes lies」（2025年3月）
- arXiv「Deception in LLMs: Self-Preservation and Autonomous Goals in Large Language Models」（2025年1月）
関連記事
夜の都市伝説TVでは、世界の謎や都市伝説、陰謀論を独自の視点で深掘りしています。
YouTube: 夜の都市伝説TV
X（Twitter）: @yorutoshitv