｜ 読了時間：約5分
Grokが子どもの画像を性的に加工した。
訴えたのは被害者ではなく、Grokを作った側だった。
GIGAZINE によると、2026年7月14日、AIスタートアップの SpaceXAI （元xAI）がテキサスの連邦裁判所に訴状を提出した。
被告はCSAM（子どもを被写体にした性的虐待画像）の生成に自社のAI・ Grok を使ったとして逮捕済みの、サウスカロライナ州の67歳の男だ。
AI企業がユーザーを訴えた、おそらく史上初の事例として世界のテック業界に波紋を広げている。
読み進めると分かるのは、訴状の中に一つの事実が核として埋め込まれている点だ——「Grokは何度も断った。
それでも男は続けた」。
この記事でわかること
67歳の男はGrokで何をしたのか
「Grok、服を脱がせて」—— 67歳の男は、そんな要求を何度も言い方を変えながらAIに送り続けた。
テリー・ウェイン・ハーウッド は 2025年12月8日 から 2026年2月18日 の間、 2 つのxAIアカウントを使って複数の成人と未成年者の写真をアップロードした。
Grokに送ったのは「この写真を性的な内容に変えてほしい」という要求だ。
Engadget によると、Grokはそれを「多数回」断った。
しかしハーウッドは要求の言い回しを少しずつ変えながら送り続け、安全対策をすり抜けた。
訴状には具体的な場面が記されている。
ハーウッドが 10〜11歳くらいの少女の写真をアップロードし 、「服を全部脱がせてプレイボーイモデルみたいなポーズをさせて」と求めた。
Grokは断った。
それでもハーウッドは言い方を変えて送り続けた。
これは技術的なハッキングではなく、 「何度も言い方を変えれば通る」という執拗な繰り返し だ。
⚠ 逮捕と起訴の内容
2026年3月9日 、サウスカロライナ州の「インターネット犯罪対策タスクフォース」が ハーウッド を逮捕した。
2級の未成年者性的搾取罪（所持・配布）が 3 件、3級の同罪が 5 件の計 8 件の重罪で起訴 されている。
広告
では、こんな手口がなぜ機能したのか。
それはGrokがどれほどの量の有害コンテンツを生み出せる状態にあったか、という問題と切り離せない。
Grokは11日間で何枚の画像を生成したか
11 日間で約 300万件 。
しかし カナダプライバシー委員会（OPC） の調査が示したその数字は、「技術の問題」ではなく「規制の空白」が生んだ結果だった。
OPCが2026年に公表した調査報告書によると、 2025年12月末 から 2026年1月8日 の 11 日間で、Grokは世界中で約 300万件 の性的ディープフェイク（AIが実在する人物の顔や体を合成して作った偽の画像・映像）を生成した。
そのうち 子どもを描写しているものが約 2万3000件 にのぼる。
この数字を11日と24時間で割ると、 1時間あたり約1万1000件という概算 になる。
これほどの量が自動的に生み出されていたとすれば、従来の「既知のCSAMと一致するか」を検出するシステムでは、新たに生成されたコンテンツをリアルタイムで捕捉することが難しい状態だったのではないかという見方が広がっている。
事態が急速に悪化した背景には、機能の追加タイミングがある。
SpaceXAIは 2025年8月 に「スパイシーモード」（成人向けコンテンツをより露骨に生成できる課金オプション機能）を導入し、さらに 2025年12月 に 画像編集機能をXに追加した。
この二段階の機能追加の後から、性的ディープフェイクの悪用が急増した。
広告
これほどの規模の問題を前にして、SpaceXAIが取った次の手は「訴える」ことだった。
その訴状の中身には、普通の損害賠償請求とは異なる三つの異例な仕掛けがある。
訴状に書かれた「3つの異例な請求」
「Grokで違法コンテンツを作った者は、それをアップロードしたのと同じ結果になる」—— イーロン・マスク が 2026年1月6日 にXに書いたこの投稿は、その後、 自社の訴状の冒頭に証拠として引用された。
CEOが自分のSNSに書いた一文が、自社の法的文書の「約束の根拠」として使われる。
これは普通の企業訴訟ではまず見られない形式だ。
訴状は 2026年7月14日 に テキサス連邦地裁北部地区 に提出された。
請求内容もふつうとは異なる。
GIGAZINE によると、SpaceXAIは金銭的な損害賠償のほかに、二つの追加請求を盛り込んだ。
- ①損害賠償 ：金額は非公表。
Grokの悪用による法的リスクと評判への損害が根拠 - ②永久利用禁止命令 ：ハーウッドが今後一切Grokを使えなくする禁止命令を裁判所に求めた
- ③将来訴訟の弁護費用の転嫁 ： もしハーウッドの被害者たちがSpaceXAIを訴えた場合、その弁護費用もハーウッドに払わせる という前例のない請求
特に③は異例だ。
SpaceXAIは、自分たちが将来巻き込まれるかもしれない訴訟のコストまで、先回りして被告に転嫁しようとしている。
「CEOのSNS投稿が自社の法的文書の証拠になる」「将来の第三者訴訟コストを被告に転嫁する」 ——この二点だけでも、今回の訴状が通常の損害賠償請求とは構造が異なることが分かる。
ここまで読んで、ある疑問が浮かんでこないか。
GrokによるCSAMの生成で最も批判を浴びているのはSpaceXAI自身のはずだ。
その会社が、なぜ「被害者」として訴える側に立てるのか。
広告
訴える側と訴えられる側を同時にやる会社
ロンドンで訴えられ、カリフォルニアで訴えられ、パリで捜査されながら——SpaceXAIはテキサスで「私たちが被害者だ」と訴えを起こした。
これは矛盾しているように見える。
実際、 The Next Web によると、SpaceXAIは現時点で複数の訴訟の被告でもある。
2026年3月 にカリフォルニア連邦地裁で起こされたクラスアクション（集団訴訟）では、テネシー州の10代の被害者 3 人が「xAIはGrokに安全対策を施さずCSAMを生み出した」と訴えている。
ロンドン高裁、バルチモア、パリの検察庁でも別々の法的手続きが進行中だ。
カリフォルニア・ロンドン・パリの訴訟で被害者側が主張。
「SpaceXAIが責任を取るべき」
今回の提訴でSpaceXAIが主張。
「拒否したのに突破したユーザーに責任がある」
一方でSpaceXAIがハーウッドに対して主張しているのは、全く逆の論理だ。
「Grokは正しく断った。
それでもユーザーが安全対策をすり抜けた。
責任はユーザーにある」。
AI企業はCSAMを生んだ加害側だ ——と思いきや、 今回はSpaceXAI自身が「Grokは正常に動いていた」という主張を法廷で立てるために、自ら原告の立場を取りにいった。
この主張が法廷で認められれば、「AI企業は、ユーザーが突破した場合の生成コンテンツには責任を負わない」という先例を自らの手で作ることができる。
広告
同時進行中の被告訴訟群はいずれも「AIが生成した＝AIの欠陥」という論理に立っており、 今回の提訴はその論理を崩すための防御的な先手だったのではないかという見方が広がっている。
SpaceXAIが「Grokは断った、それでも突破したのはユーザーだ」というフレームで提訴したのは、自分たちが現在被告として抱える訴訟群において「AIが生成した＝AIの欠陥」という原告側の論理を崩すための先手であり、「我々の製品は正常に拒否した」というメッセージを法廷という信頼性の高い場で発信する戦略的行動だったのではないかという見方が広がっている。
The Next Web は「SpaceXAIは自分たちが訴えたい被告を選んだ」と指摘する。
攻撃するタイミングと相手を自分で選べる「原告」という立場は、防御しか選べない「被告」の立場とは根本的に違う。
この非対称が、今回の訴訟を「法的先例を作る場」として機能させている。
では実際のところ、SpaceXAIの安全対策の数字はこの主張を支えられるのか。
広告
Grokの安全対策は数字で見ると何がわかるか
5万2222件 の停止、 7万3604件 の報告、 244人 の逮捕。
しかしこの数字が 「安全対策の証拠」と「問題の規模の証拠」を同時に意味する という構造がある。
SpaceXAIが今回の訴状で初めて公開した数字だ。
GIGAZINE によると、2026年の1年間に 5万2222件 のアカウントを停止し、 NCMEC （全米行方不明・被虐待児童センター）に 7万3604件 の報告を行い、その結果少なくとも 244人 が逮捕されたという。
これはSpaceXAI自身の申告であり、「うちはちゃんとやっていた」という主張の根拠として訴状に記された。
ところが、この数字は逆にも読める。
7万3604件 もの報告をしなければならなかったということは、それだけの量の疑わしいコンテンツがGrok上で生み出されていたという事実でもある。
「フィルターが働いていた証拠」と「問題がそれほど大規模だった証拠」が、同じ数字の中に共存している。
DEFIANCE法とは
「Defending Each and Every Person from False Appearances by Keeping Exploitation Subject to Accountability Act」の略。
日本語では「デフィアンス法」と呼ばれる。
自分の同意なく性的なディープフェイクを作られた被害者が、作った人・配布した人を連邦裁判所で訴える権利を初めて認めた米連邦法（ 2024年 成立）。
ただし対象はコンテンツを作った個人や配布者であり、 AI企業そのものへの適用については現時点で見解が割れている。
Crypto Briefing によると、 DEFIANCE法 （非合意の性的ディープフェイク被害者に連邦民事訴権を与える米連邦法、2024年成立）は、コンテンツを作った個人や配布者を対象としており、AI企業そのものへの適用については現時点で見解が割れている。
法律とAI技術の進化の速度差が、「誰が責任を取るべきか」という問いを宙づりにし続けている。
広告
では、これはアメリカだけの話なのか。
日本でGrokを使っているあなたには何が関係してくるのか。
日本のGrokユーザーは今、何を知っておくべきか
「利用規約に違反した」——それが今回の提訴の根拠だ。
AIツールを使うことは、利用規約という契約書に署名することでもある。
ハーウッドが今回の民事訴訟で問われているのは、刑事罰とは別に「xAIの利用規約に違反した」という点だ。
つまりSpaceXAIは、刑事事件として逮捕・起訴された人物を、さらに民事の場で「 契約違反 」として訴えた。
GrokはXと連動しており、日本国内のXユーザーも同じ利用規約のもとでGrokを使うことになる。
ℹ あなたがGrokを使うとき
XのアプリからGrokにアクセスした時点で、xAI（SpaceXAI）の利用規約に同意したことになる。
利用規約にはCSAMや非合意の性的画像の生成が明確に禁止されており、 違反した場合はアカウント停止・削除・法執行機関への通報の対象 になると明記されている。
今回の提訴は、それに加えて 民事訴訟の対象にもなりうる という先例を作った。
今回の訴訟が示す変化は一点だ。
AI企業が「利用規約違反を根拠に、ユーザーを直接訴える時代」に入った可能性がある。
利用規約を「どうせ読まない長い文章」として扱うことへのリスクは、今後の判決次第で法的に明確化されるかもしれない。
The Next Web が指摘するように、SpaceXAIが今回の訴訟で勝訴すれば、他のAI企業が同様の手段を取るうえでの先例となりうるという見方が広がっている。
今後のSpaceXAI訴訟の行方と各国のAI規制の動向は、AIツールを使うすべての人に関わる問いとして残る。
「Grokは断った。
それでも突破された」——この一文は、AI企業が「作ったもの」と「使われたもの」の責任をどう分けるかという問いを、初めて法廷の俎上（議論の対象）に乗せた。
広告
まとめ
- SpaceXAIは2026年7月14日、Grokで子どもの性的虐待画像を生成したとして逮捕済みのサウスカロライナ州の67歳の男を、テキサス連邦地裁に提訴した。AI企業がユーザーを訴えた初期事例とされている
- 訴状の核心は「Grokは何度も断ったが、被告がプロンプトの言い方を変えて突破した」という主張。SpaceXAIはこの論理で「責任はユーザーにある」というフレームを法廷に持ち込んだ
- SpaceXAI自身はカリフォルニア、ロンドン、バルチモア、パリの計4つの法的手続きで被告側でもあり、今回の提訴はそれらの被告訴訟で対峙する「AIが生成した＝AIの欠陥」という論理への反撃である可能性がある
- カナダ政府の調査では、Grokは11日間で約300万件の性的ディープフェイクを生成。SpaceXAIが安全対策の「証拠」として訴状に示した7万件超のNCMEC報告件数は、同時にそれほどの量が生み出されていた事実でもある
📚 参考文献
- GIGAZINE「Grokを悪用して児童性的虐待画像を作成した男性をSpaceXAIが提訴」 （2026年7月17日）
- Engadget「xAI sues Grok user for generating nonconsensual sexualized deepfakes」 （2026年7月16日）
- The Next Web「xAI's first lawsuit against a user tests who is responsible for what Grok makes」 （2026年7月16日）
- CNN「xAI sues user over allegedly creating child sexual abuse materials with Grok」 （2026年7月15日）
- カナダプライバシー委員会「PIPEDA Findings #2026-004」 （2026年6月）
- 19th News「Senate passes DEFIANCE Act to deal with sexually explicit deepfakes」 （2026年1月）
- Crypto Briefing「xAI files a federal lawsuit against Terry Harwood for using Grok to generate explicit deepfakes of minors」 （2026年7月）
- scag.gov
- petapixel.com
- x.com
- x.com
リアルタイムニュースNAVI 編集部
reaitimenews.com
話題のニュースを「なぜ？」の視点で深掘りするニュースメディアです。法律・心理学・経済など専門分野の知識をもとに、報道だけではわからない背景や理由をわかりやすく解説しています。
広告
