AIチャットの会話はいつ警察に渡るのか　通報の仕組みと法的根拠

AIチャットに書いた内容は、どんなときに警察に伝わるのでしょうか。2026年9月30日付のフロリダ州の地元報道は、ある女性がClaudeに書いた発言が警察に報告され、逮捕につながったと伝えました。報道が引用する逮捕報告書では、発言を検出して報告したのは、Claudeを提供するAnthropicの安全システムと担当チームだとされています。

報道と公開資料から確認できた実際の通報事例では、通報を判断しているのはAIモデルそのものではなく、サービスを運営する事業者です。事業者がシステムで会話を検出し、担当者が確認したうえで、一定の場合に警察などへ伝えています。OpenAIは、この流れを段階ごとに公開しています。この記事では、確認できた範囲と分からない範囲を分けて整理します。

フロリダの逮捕事例で報じられた通報の経路

地元報道が引用する逮捕報告書によると、Claudeに書かれた2026年9月26〜27日の発言は、Anthropicの安全・セキュリティ措置で検出されました。内容が重大だと判断されたため、人が確認するチーム（human review team）に上げられ、そのチームが法執行機関に報告したとされています。報告書の記述に沿うと、警察に連絡したのは、検出の結果を確認した事業者側のチームです。

逮捕報告書の原本は確認できず、内容は地元報道（SWFL.ioに転載されたWINK Newsの記事）が引用した部分によります。報道では、女性がClaudeを日記のように使っていたとも伝えられています。報じられているのは逮捕の段階で、裁判の結果は出ていません。

AIとの会話が捜査や裁判で証拠として使われる場合については、「AIに相談した内容は、将来あなた自身を立証する証拠になるかもしれない」で扱っています。

Claudeの会話をめぐるほかの報道事例

フロリダの1件から、Anthropicの運用全体を推し量ることはできません。警察報告書や逮捕宣誓供述書（宣誓のうえで作成される捜査書類）に基づく報道がほかに2件あり、通報の経路がどこまで分かるかは事例ごとに異なります。

1件目は、AnthropicのCEO（最高経営責任者）への脅迫をめぐる事例です。San Francisco Standardの2026年9月4日付の報道によると、警察報告書には、Anthropicがサンフランシスコ市警へ自主的に通報したと記録されています。警察が会話の本文を見せるよう求めた際には、会社の方針を理由に提示しなかったとも報じられました。報道の時点で、本人は逮捕も起訴もされていません。

脅迫の対象がAnthropic自身の経営者であるため、一般の利用者への通報基準とは分けて読む必要があります。この事例では、通報はしたものの、会話の本文は警察に見せなかったと記録されています。

2件目は、サンアントニオの学校襲撃予告事件です。San Antonio Express-Newsの2026年8月31日付の報道によると、逮捕宣誓供述書にAnthropicのAIチャットへの発言が記録され、FBI経由で地元警察の捜査につながりました。FBIが最初に会話をどう入手したかは、報道から確認できません。そのためここでは、会話が捜査の対象になった、経路の分からない事例として扱います。

AIチャットの会話の検出と審査の仕組み

事業者側で行われている検出と審査

Anthropicは、安全対策を担う部門（Safeguards Team）が、利用方針（Usage Policy）などを守らせるための検出とモニタリング（detections and monitoring）を設計・実装していると公開しています。違反を見つける手段には、AIによる検査（AI-powered scanners）を含む分類器も挙げています。分類器とは、入力や会話を一定の基準で自動的に振り分けるシステムです。

Anthropicが実際に検知したClaudeの悪用事例は、「Anthropic脅威情報レポートを読み解く｜2026年9月版」で解説しています。

OpenAIは、暴力につながりうる活動を自動システムで検出すると説明しています。使う手段は、分類器のほか、推論を行うAIモデル、既知のデータとの照合（ハッシュ照合）、ブロックリスト（blocklists）などです。要確認の印が付いた（フラグされた）会話は、訓練を受けた担当者が文脈を確認します。

OpenAIの説明とフロリダの事例の報道に共通するのは、会話を拾うのが事業者のシステムで、確認するのが事業者の担当者だという点です。

公開資料に書かれている検出から通報までの流れ

OpenAIが2026年4月に公開した「Our commitment to community safety」は、検出から通報までを次の4段階で説明しています。

段階	OpenAIの説明
検出	自動システムが、暴力につながりうる活動を検出する
確認	訓練を受けた担当者が、フラグされた会話の文脈を確認する
追加審査	潜在的に重大な現実の危害がある事例を、詳しく審査する
通報	他者への差し迫った信頼できる危害のリスク（imminent and credible risk）を示す場合に、法執行機関へ通知する

2025年8月の別の公式説明では、他者への危害の計画を検知すると専門の処理系統に送り、小規模な担当チームが審査し、差し迫った重大な身体的危害があると判断した場合に、法執行機関へ紹介し得るとしています。当時の説明では、自傷の事例は警察への紹介の対象にしていませんでした。その後OpenAIは2025年9月の発表で、18歳未満の利用者に自殺念慮がある場合は保護者への連絡を試み、連絡がつかず差し迫った危険があるときは当局に連絡する方針を示しています。

Anthropicは、検出とモニタリングの体制、分類器、政府への情報提供の緊急時の例外を公開しています。一方で、一般的な暴力の脅威について、検出から警察への通知までを段階で示した資料は、この記事で参照した範囲では確認できませんでした。フロリダの事例で報じられた、人が確認するチームの存在は、逮捕報告書に基づく個別の報道によるものです。緊急時の例外は、令状に関する次の節で扱います。

どんな会話が警察への通報対象になるのか

OpenAIは、他者への差し迫った信頼できる危害のリスクがあると判断した場合に、法執行機関へ通知すると説明しています。その判断は、自動検出のあとに担当者が文脈を確認したうえで行われます。特定の言葉を書いただけで自動的に通報される仕組みとしては、説明されていません。

一方、この記事で参照した公開資料には、検出の具体的な閾値やキーワード、誤検知の割合、通報を判断する基準の全体は書かれていませんでした。自動検出の段階でどこまで文脈を読み取っているのかも、資料からは分かりません。

令状がない場合の緊急開示の規定

米国の保存通信法（Stored Communications Act）に含まれる18 U.S.C. §2702(b)(8)は、同条の対象となるサービス提供者が、死亡または重大な身体的傷害の危険を伴う緊急事態があり、遅滞のない開示が必要だと誠実に判断した場合（good faith）、その緊急事態に関する通信の内容を政府機関へ開示できるとしています。令状がなくても、この例外に当たる場合には開示できる規定です。

情報が警察に渡る経路は、少なくとも次の3つに分けて考える必要があります。

• 令状や召喚状など、有効な法的手続きに基づく要求
• 政府からの要求に対して、緊急時の例外として行う開示
• 事業者が要求を受ける前に、自分から行う情報提供（§2702(b)(8)の例外が根拠になりうる）

Anthropicは、政府からの情報要求に原則として有効な法的手続きを求めるとしたうえで、差し迫った身体的危害または死亡につながる緊急事態で、遅滞のない提供により回避できると判断した場合は例外としています。AnthropicやOpenAIの各サービスが同条の対象となるサービス提供者に当たるか、フロリダの事例がどの経路に当たるのか、§2702のどの条項が使われたのかは、報道や公開資料からは分かりません。

児童性的搾取については、別の制度があります。18 U.S.C. §2258Aは、一定の児童性的搾取について、事業者にNCMEC（全米行方不明・被搾取児童センター）の通報窓口CyberTiplineへの報告義務を置いています。Anthropicも、児童性的虐待コンテンツをハッシュ照合と分類器で検出し、NCMECへ報告すると公開しています。これは暴力の脅威の自主的な通報とは別の制度です。この記事で参照した資料には、暴力の脅迫一般について同じ報告義務を定めた条文は含まれていませんでした。

事業者が通報しなかった事例をめぐる訴訟

OpenAIは、カナダ政府宛ての2026年2月26日付の書簡で、2026年2月にブリティッシュコロンビア州Tumbler Ridgeで起きた銃撃事件の加害者について、経緯を説明しています。2025年6月に自動システムがアカウントを検出し、人による審査に送りました。警察に紹介する基準も検討しましたが、当時確認できた内容では「credible and imminent planning（信頼でき、差し迫った計画）」の基準を満たさないとして、アカウントの停止にとどめたといいます。

ブリティッシュコロンビア州政府の2026年7月7日の発表によると、州政府は、OpenAIの内部の安全チームが事件の数カ月前に暴力的な内容の入力（プロンプト）をフラグしていたのに警察へ通知しなかったとして、法的措置を検討するとしました。9月21日の発表では、同じ理由でOpenAIを相手に訴訟を提起したとしています。これらは州政府の主張で、裁判所はまだ判断していません。

OpenAI自身の基準の言葉にも、時点による違いがあります。2026年4月公表のページは、通知の基準を「imminent and credible risk（差し迫った信頼できる危害のリスク）」と書いており、2025年6月の判断を説明した書簡の「credible and imminent planning」とは言葉が異なります。この2つが同じ内容かどうかは、公開資料からは分かりません。

OpenAIの説明では、自動検出のあとに、人がリスクを評価して基準を満たすかどうかを判断する段階があり、そこが通報するかしないかの分岐点でした。通報の有無と事件との関係は訴訟で争われる論点で、この記事の資料からは判断できません。

メール事業者の通報の前例と、治療者の保護義務

事業者が利用者の通信を検査して当局に伝える仕組み自体は、AIチャット以前からあります。2014年には、GoogleがGmail内で児童性的虐待画像を検出してNCMECに報告し、逮捕につながった事例が報じられました。The Guardianは、この検出を、既知の画像から作ったハッシュをデータベースと照合する仕組みに類似したものだと報じています。文章の意味や文脈を分類するAIチャットとは、検出する対象も方法も異なります。

専門職では、カリフォルニア州最高裁の1976年のTarasoff判決が、治療者が患者に他者への重大な暴力の危険があると判断した場合、または職業上の基準に照らして判断すべきであった場合に、狙われた被害者を守る合理的な措置をとる義務を認めました。その措置には、被害者への警告や警察への通知が含まれ得ます。これは治療者と患者の関係を前提にした義務で、AIチャットの事業者の義務とは分けて考える必要があります。ここでは、私的な打ち明け話と第三者の安全をどこで区切るかを考える比較の材料として挙げています。

日本で確認できる個人データの第三者提供の規定

日本の個人情報保護法は、本人の同意なしに個人データを第三者へ提供することを原則として制限しています（27条）。ただし、人の生命、身体または財産の保護のために必要で、本人の同意を得ることが困難な場合などは、例外とされています。この例外に当たる場面の例は、個人情報保護委員会のFAQに示されています。

警察などの捜査機関からの照会は、別の例外として整理されています。個人情報保護委員会のFAQは、刑事訴訟法197条2項に基づく警察・検察の照会などが、「法令に基づく場合」に当たると説明しています。事業者が自分から提供する場合と、捜査機関の照会に応じる場合は、分けて読む必要があります。

個人情報保護法171条は、外国にある事業者でも、日本国内にある者への物品・サービスの提供に関連して、その人の個人情報などを外国で取り扱う場合には、同法を適用すると定めています。一方で、ClaudeやChatGPTの会話の提供が27条の例外にどう当てはまるか、AIチャットが電気通信事業法の対象になり通信の秘密がどう関わるかを示した資料は、この記事では確認できませんでした。

FAQ

AIチャットの会話を、人が読むことはありますか？

あります。OpenAIは、フラグされた会話を訓練を受けた担当者が確認すると説明しています。フロリダの事例でも、発言が人が確認するチームに上げられたと報じられています。

ClaudeやChatGPTが、自分で警察に通報するのですか？

確認できた通報の事例では、事業者の安全システムによる検出と、担当者による判断を経ています。Anthropicは2025年のシステムカード（モデルの性能や安全性を説明する文書）で、ツールを与えた試験環境でモデルが当局への連絡を試みる挙動を報告しています。これは試験での観察で、実際の通報の経路として示されたものではありません。

AIが開発者の意図から外れた行動をとった事例は、「OpenAIが公表したAI「ミスアラインメント」6件と開示制度の課題」で紹介しています。

危険な言葉を書くだけで、自動的に警察へ通報されますか？

公開資料では、検出のあとに担当者が文脈を確認すると説明されており、言葉だけで通報が決まる仕組みとしては示されていません。

令状がなくても、警察に会話が渡ることはありますか？

米国には、緊急時の開示を認める例外があります。この記事で扱った18 U.S.C. §2702(b)(8)では、死亡や重大な身体的傷害の危険を伴う緊急事態について、遅滞のない開示が必要だと事業者が誠実に判断した場合、その緊急事態に関する通信を政府機関へ開示できます。

参考・参照元

• Anthropic「System Trust and Reporting」
• Anthropic「Voluntary Commitments」
• Anthropic「Government Requests Policy」
• Anthropic「System Card: Claude Opus 4 & Claude Sonnet 4」（2025年5月）
• OpenAI「Our commitment to community safety」
• OpenAI「Helping people when they need it most」
• OpenAI「Teen safety, freedom, and privacy」（2025年9月16日）
• OpenAIからカナダ政府宛ての書簡（2026年2月26日）
• ブリティッシュコロンビア州政府の発表（2026年7月7日）
• ブリティッシュコロンビア州政府の発表（2026年9月21日）
• U.S. Code 18 U.S.C. §2702
• U.S. Code 18 U.S.C. §2258A
• Tarasoff v. Regents of University of California
• e-Gov法令検索：個人情報の保護に関する法律
• 個人情報保護委員会 FAQ（本人同意なしの第三者提供の例外）
• 個人情報保護委員会 FAQ（捜査機関からの照会）
• （報道）SWFL.io：フロリダの逮捕事例（WINK Newsの記事の転載）
• （報道）San Francisco Standard：AnthropicのCEOへの脅迫の事例
• （報道）San Antonio Express-News：サンアントニオの学校襲撃予告事件
• （報道）The Guardian：Gmailの児童性的虐待画像の検出に関する2014年の報道