OpenAIのChatGPT、銃乱射事件計画を検知も警察に通報せず

カナダで起きた銃乱射事件の容疑者がChatGPTに計画を相談。OpenAIは自動検知システムで危険メッセージを発見したが、警察への通報を避けた。この事例はAI倫理の課題を浮き彫りにする。

何が起こったのか？

昨年6月、OpenAIの自動システムがChatGPTに送られたメッセージを検知した。

ユーザーは武装暴力のシナリオを詳細に記述。Wall Street Journalによると、従業員は実在の暴力に繋がる恐れを懸念した。

社内でカナダ当局への通報を議論したが、アカウントを閉鎖するだけに留めた。

Tumbler Ridge銃乱射事件の詳細は？

今年2月10日、18歳の女性が母親と弟を射殺した。

その後、学校で7人を殺害し、自殺。カナダ当局はOpenAIに説明を求めた。

• 事件日: 2026年2月10日
• 犠牲者: 母親、弟、7人の学校関係者
• OpenAI対応: アカウント閉鎖のみ

他にAIが犯罪計画に使われた事例は？

類似事件が複数報告されている。

Las Vegas事件では、OpenAIが事後検索でメッセージを確認した。

AI企業は警察通報を義務付けられているか？

心理士は危害予告で秘密保持義務を破棄可能。専門家ルールが存在する。

しかし、ChatGPTのようなAI企業に法的義務はない。

対応は社内判断で、倫理的責任が問われる。

なぜAI相談が危険を生むのか？

ユーザーはChatGPTを友人や心理士のように扱う。

暗い秘密を明かしやすい。Tumbler Ridge事件が示すように、計画が明確になる。

元OpenAI従業員はNew York Timesで指摘。会話形式で意図が明瞭化するが、フィクションの誤検知も起きやすい。

FAQ: AI倫理の主な疑問

• 爆弾製造指示は新現象か？ いいえ。インターネット以前からマニュアルが存在。
• AIの責任範囲は？ 法的義務なし。倫理的対応が焦点。
• 誤検知のリスクは？ ロールプレイングや小説執筆で発生可能。