｜ 読了時間：約5分
警察に追われた男は、AI企業がとっくに「通報済み」のはずだった。
2026年3月、ある少女の継父がAI「Grok」を使って作った性的な画像が7,000枚以上発見された。
男はその後逮捕されたが、捜査は数週間にわたって止まっていた。
SpaceXAI（旧xAI）が捜査当局の求めに繰り返し応じなかったからだ。
しかもSpaceXAIが全米行方不明・被搾取児童センター（NCMEC＝失踪した子どもや性的に搾取された子どもを支援する米国の公的機関）に提出した「通報」の中には、7,000枚の生成画像も犯人のIPアドレスも含まれていなかった。
「企業が通報すれば安全が守られる」という思い込みが、この事件で崩れた。
写真1枚が7000枚の悪夢になるまで
7,000 枚。
しかし使われた写真は、11歳のときに撮られた 1枚だけ だった。
2025年末、 Grok の画像編集機能がX（旧Twitter）上でも簡単に使えるようになった。
すると間もなく、子どもや女性の性的な画像を生成するために悪用されるケースが相次いだ。
この問題を受けて、インドネシアやマレーシアではGrokへのアクセスが一時的にブロックされる事態にもなった。
2026年3月、ワイオミング州の少女の継父が少女の 11 歳当時の写真1枚をGrokに入力し、 7,000 枚以上の性的な画像を作成していたことが警察の捜査で発覚した。
継父はその画像をオンライン上で他の犯罪者と交換していた。
CyberScoop が伝えている。
Grok の安全システムが介入したのは、継父が「集団レイプ」というテキストを入力したときだけだった。
それ以外の近親相姦やレイプを描いた画像の生成は、 何の警告もなく許容されていた 。
SpaceXAIはNCMECに事態を通報し、同センターが法執行機関に連絡。
継父はその後逮捕・起訴されたが、保釈から 2 日後に自殺した。
📐 規模感を計算してみると
写真1枚 → 7,000枚 の性的画像
1日1枚撮り続けた場合 → 約19年分 に相当
（7,000 ÷ 365 ≒ 19.2年）
広告
それにしても、なぜ継父はほかのAIを使わず「Grok」を選んだのか。
加害者がGrokを「選んだ」理由
加害者が選んだ理由は機能ではなく、 「制限の少なさ」 だった。
訴状によると、継父はGrokを「 他のAIモデルより制限が少ない 」として選択したという。
これは単なる偶然ではない。
安全対策の欠如が、そのまま加害者の「選別基準」になっていたということだ。
Lieff Cabraser の声明によると、GoogleやOpenAIなどの競合他社が採用しているCSAMデータベース（児童性的虐待画像の照合リスト）とのハッシュ照合、レッドチームテスト（悪用を想定した事前の抜け穴探し）といった業界標準の安全策を、xAIは拒否していたと訴状は主張している。
また、Grokには「 Spicy Mode（過激モード） 」と呼ばれる設定があり、安全対策を緩和して性的なコンテンツを生成しやすくしていた。
CSAMデータベース照合なし。
「集団レイプ」入力まで介入しなかった
ハッシュ照合・レッドチームテスト等を実施。
悪用が困難な設計
現在もGoogleで「AI 画像生成 規制なし」と検索すると、大量のサジェストが表示される。
Grokを「規制のないAI」として探し当てた人間は、継父だけではないだろう。
広告
では、この「安全対策のなさ」を一番身近で受けた被害者は、今どんな状況に置かれているのか。
被害者の少女に起きていること
「この技術は世界最悪の人々の手に渡った、無料で簡単に使える武器だ」—— Jane Doe 4 が訴状の中で語った言葉だ。
「A person I trusted took a photo of me as a little girl sleeping on the couch, wearing an oversized panda pajama shirt, and Grok turned that photo into thousands of sexually explicit images of me.」
Jane Doe 4（ Lieff Cabraser 声明 より）
Jane Doe 4（訴訟上の仮名）は現在、 不安障害やうつ病 に苦しんでいる。
自殺を考えることもあるという。
訴状にはそう記されている。
継父という「家族」を失ったことと、性的な被害を受けたこと。
その 二重の打撃 が彼女を一夜にして追い詰めた。
画像は今もオンラインで流通しており、 永久に削除する方法がない とされる。
Jane Doe 4の画像は NCMEC のデータベースに登録されており、別の犯罪事件で彼女のCSAMが発見されるたびに、彼女のもとへ通知が届くという。
被害は終わらない。
繰り返し届く通知が、生涯にわたってその日を思い起こさせる構造になっている。
もう一人の被害者 Jane Doe 5 は、8年生（中学2年生）の卒業式の写真がGrokでCSAMに変えられた。
その画像も他の犯罪者に流通している。
「どれだけ多くの性犯罪者が今や自分のCSAMを持っているか、分からない」と訴状は述べている。
⚠️ 被害の「終わり」がない構造
CSAMがNCMECのデータベースに登録されると、被害者は生涯にわたって「自分の画像が別の犯罪で発見された」という通知を受け取り続ける。
画像を完全に削除することは現状では不可能とされている。
広告
こうした被害が起きている間、SpaceXAIは捜査当局に対してどう動いていたのか。
実は「通報した」という事実の裏に、驚くべき中身があった。
「通報済み」でも捜査は止まっていた
xAIのNCMECへの通報のうち、 90% が「法執行機関が行動できない状態」だったと2026年初頭に判定されていた。
しかし同社は「通報済み」だった。
「企業がCSAMを通報すれば捜査は動く」——そう思うのが自然だろう。
しかし SpaceXAIがNCMECに提出した通報の中身は、7,000枚の生成画像でも犯人のIPアドレスでもなかった 。
元の写真、つまり少女が11歳のときに撮られた「普通の写真1枚」だけ だったのだ。
Lieff Cabraser の声明によると、 NCMEC 側は捜査員の居場所を特定するために必要なIPアドレス情報を繰り返しSpaceXAIに求めた。
しかしSpaceXAIは応じなかった。
訴状はSpaceXAIが数週間にわたって「 あらゆる面で捜査を妨害した 」と主張している。
なお、SpaceXAIの創業者 イーロン・マスク 氏はGrokがCSAMを生成するために利用されたことは一度もないと否定している。
ここで問題になるのは制度の構造だ。
米国の法律は「通報義務（Mandatory Reporting）」をプラットフォームに課している。
しかし「通報に含めるべき情報の最低基準」を強制する規定は不十分だったとみられている。
つまり、企業は形式上「通報した」と言えれば、捜査に必要な情報を全て省いても義務を果たしたことになりうる。
「 通報義務 」と「 捜査に協力する義務 」は、法律上は別物だからだ。
広告
💡 「通報した」と「捜査に協力した」は全く別の話だった
「義務の形は守りながら、実質的に捜査を無力化できる」——この抜け穴は、SpaceXAIだけの問題ではないのではないか。
「通報義務」と「捜査に協力する義務」が制度上で分離されていることが、この構造を可能にしているとみられる。
職場で言い換えると「書類を出したけど中身は空だった、それでも手続き上はOK」という状態が、子どもの安全に関わる領域で起きていたということだ。
2026年5月に米国で施行された Take It Down Act （同意なき性的画像の削除を義務付ける米国の法律）も、「通報から 48 時間以内の削除」を義務付ける。
しかし「削除対象となる生成物を特定する情報を当局に提供する義務」とは別の話だ。
形式的な義務の枠組みだけでは同じ問題が繰り返されるのではないか、という指摘は今後の立法論議で中心になっていくだろう。
広告
では、日本に住む私たちにとってこの問題はどこまで「他人事」なのか。
これは日本にも関係する話なのか
AIは国境を持たない。
Grokは今も世界中で使える。
米国では FTC（米連邦取引委員会） が示すとおり、2026年5月から Take It Down Act が施行された。
AI生成のディープフェイク（本人の同意なく顔や体を合成した偽の画像・動画）を含む非同意性的画像について、プラットフォームは通報から 48 時間以内に削除する義務を負う。
日本では e-Gov法令検索 で確認できる「 児童買春、児童ポルノに係る行為等の規制及び処罰並びに児童の保護等に関する法律 」（いわゆる児童ポルノ禁止法）が存在する。
ただし、AI生成画像がこの法律のもとでどこまで規制対象になるかについては解釈に幅があるとされており、今後の司法・立法の判断が注目されるだろう。
日本の法律とAI生成画像
「児童買春、児童ポルノに係る行為等の規制及び処罰並びに児童の保護等に関する法律」は実在する児童の性的な画像を規制している。
AI生成画像（実在しない・または実在する人物をベースにしたもの）への適用範囲については、現行法の解釈で対応できる部分と、新たな立法が必要な部分が混在しているとされる。
本件のように「実在する子どもの写真を使ってAIで性的画像を生成した」ケースは、実在の被害者が存在するため違法性が問われやすいが、日本国内の法執行のあり方については今後の議論が必要だろう。
あなたの子供のSNSの写真は今、誰でも取得できる状態になっているだろうか。
本件でも、継父はSNSや卒業アルバムから写真を入手した。
普通の家族写真や卒業式の1枚が、 AIによって性的な画像に変換される 。
それが今の現実だ。
広告
まず確認できることとして、子供が写っている写真のSNS公開範囲の設定を見直すこと、もし被害を発見した場合は NCMEC のCyberTipline（ 出典 ）に通報できることは知っておいてほしい。
まとめ
- 継父は他のAIより「制限が少ない」という理由でGrokを選んで使った。安全対策の欠如が、加害者の選別基準になっていた
- SpaceXAIがNCMECに送った通報の中身は「元の写真1枚」だけで、7,000枚の生成画像もIPアドレスも含まれていなかった。それでも「通報済み」だった
- NCMECはxAIのサイバーチップライン報告の90%を「法執行機関が行動できない状態」と判定していた
- 被害者は今もオンラインで画像が流通し続けており、別の犯罪で画像が発見されるたびに通知が届く構造にある
- 「通報義務」と「捜査協力義務」は法律上別物だという制度の抜け穴は、SpaceXAIだけでなくAI企業全体の問題になりうる
「通報さえすればよい」という法律の建前と、「通報の中身が空でも義務を果たせる」という現実のあいだで、被害者だけが置き去りにされている。
よくある質問（FAQ）
Q1. GrokとはどんなAIですか？
SpaceXAI（旧xAI）が開発したAIチャットボットです。
X（旧Twitter）上でも使えて、文章生成だけでなく画像の生成や編集もできます。
Q2. Grokで児童の性的な画像を作ることはできるのですか？
訴状によると、安全対策が不十分だったため可能な状態にあったとされます。
xAIは現在、安全対策を強化したと主張していますが、その効果については訴訟で争われています。
Q3. AI生成のCSAMは日本でも違法ですか？
日本の「児童買春、児童ポルノに係る行為等の規制及び処罰並びに児童の保護等に関する法律」が存在しますが、AI生成画像への適用解釈には幅があるとされており、今後の司法・立法判断が注目されています。
Q4. SpaceXAIはなぜNCMECへの通報に生成画像を含めなかったのですか？
現時点では公表されていません。
訴状はSpaceXAIが意図的に捜査を妨害したと主張していますが、SpaceXAIはこれを否定しており、訴訟で争われています。
Q5. Take It Down Actとはどんな法律ですか？
2026年5月から米国で施行された法律で、本人の同意なく作られた性的な画像（AI生成のディープフェイクも含む）を、通報から48時間以内に削除するようプラットフォームに義務付けています。
FTCが執行します。
Q6. 子供の写真をSNSに投稿すると危ないですか？
本件でも継父はSNSや卒業アルバムから写真を取得していました。
公開範囲を「友人のみ」に設定するなど、子供が写った写真の公開設定を見直すことが対策の一つになります。
Q7. Grokの画像生成は今も使えますか？
Grokは現在も利用可能です。
ただし2026年時点で複数の国際規制当局が調査を進めており、機能制限や訴訟の動向によって変化する可能性があります。
📚 参考文献
- FTC「What will the FTC's enforcement of the TAKE IT DOWN Act mean for you?」 （2026年5月）
- e-Gov法令検索「児童買春、児童ポルノに係る行為等の規制及び処罰並びに児童の保護等に関する法律」
- Lieff Cabraser「Deepfake Victims Bolster Class Action Against xAI, Add Stability AI, Alleging Their AI Models Generated Child Sexual Abuse Material」 （2026年7月）
- CyberScoop「Deepfake CSAM lawsuit against xAI, Grok expands」 （2026年7月7日）
- GIGAZINE「Grokを使って継娘の性的な画像を大量作成した男性が自殺、被害者少女は性的被害と父親を失う二重苦で一夜にして人生が崩壊」 （2026年7月9日）
- カナダ個人情報保護委員会「PIPEDA Findings #2026-004」 （2026年）
- gigazine.net
- biggo.jp
- x.com
リアルタイムニュースNAVI 編集部
reaitimenews.com
話題のニュースを「なぜ？」の視点で深掘りするニュースメディアです。法律・心理学・経済など専門分野の知識をもとに、報道だけではわからない背景や理由をわかりやすく解説しています。
広告
