SpaceXAI、ミネソタ州の「AIヌード化禁止法」を提訴 免責なしの厳格責任を問題視
2026年7月30日 17:33
イーロン・マスク氏率いるAI企業SpaceXAI（旧xAI）は、全米初となるミネソタ州のAIヌード化ツール禁止法の施行を前に、同州司法長官を提訴した。同法はプラットフォーム側に免責条項のない厳格な法的責任を課しており、SpaceXAIは「技術的に遵守不可能」と主張している。この訴訟の行方は、今後の全米におけるAI生成コンテンツ規制のあり方を大きく左右するとみられている。
■ミネソタ州が全米初のプラットフォーム責任を問うヌード化禁止法を可決
イーロン・マスク氏の人工知能企業は月曜日（米国時間）、ミネソタ州のキース・エリソン司法長官を相手取り、8月1日（土曜日）に施行予定の全米初となるAIヌード化ツール禁止法の差し止めを求める連邦訴訟を起こした。ミネソタ州連邦地方裁判所に「Case 0:26-cv-03425」として登録されたこの訴訟は、この法律のみならず、AIが生成した同意のない親密な画像（NCII）を対象とする将来のすべての州法の設計そのものを塗り替えかねない憲法上の議論をはらんでいると、法律専門家は指摘している。
今回のミネソタ州での訴訟が、xAIによる過去の州への異議申し立てと法的に異なるのは、その対象である。透明性の要件やバイアス防止の義務ではなく、セーフハーバー（免責条項）や故意要件（scienter）のない厳格責任（strict liability）の制度が対象となっている。同社は、この構造について、いかに積極的に悪用を禁止したとしても、いかなるAI画像プラットフォームも遵守することは不可能だと主張している。
下院法案1606（HF 1606）は、ウェブサイト、アプリケーション、ソフトウェア、またはその他のデジタルサービスを所有または管理する者が、ユーザーがそのサービスにアクセス、ダウンロード、または使用してヌード化画像を作成することを許可することを禁じている。ヌード化画像とは、元の改変されていないソース素材には描かれていなかった、特定可能な個人の親密な部分を描写するために画像や動画を改変または生成することと定義されている。この法律は、下院で132対1、上院で65対0という、ほぼ全会一致の超党派の支持を得て可決された。この票差は、政治的スペクトルを超えた議員たちが、同意のないディープフェイク画像を通常の政治的論争の枠を超えた問題と見なしている度合いを反映している。
この法案は、エリン・メイ・クエイド州上院議員（民主農民労働党）が主導した。彼女は、ミネソタ州のモリー・ケリーという女性が、2024年に親しい家族の友人がヌード化ウェブサイトを使用して、彼女と約80人の他の女性の同意のないディープフェイク画像を作成したことを発見したという話を知ったことがきっかけだった。これらの画像はすべて、公開されているソーシャルメディアの写真から生成されていた。ケリー氏はフルタイムで働き、ロースクールに通いながら、2年間にわたりこの法案の成立を訴え続けた。下院ではジェス・ハンソン議員（民主農民労働党）が共同で法案を主導した。
重要なのは、HF 1606が画像を作成する個々のユーザーではなく、プラットフォームを標的にしていることだ。これは意図的な構造的選択である。ミネソタ州の議員たちは、画像がすでに閉鎖的なメッセージングアプリ、匿名アカウント、学校のネットワークを通じて拡散した後に個々の悪意ある行為者を追及するだけでは、根本的な被害を抑止するには不十分だと結論づけた。この法律により、プラットフォームの所有者は違法なインシデント1件につき少なくとも50万ドル（約8200万円、1ドル=164円換算）の民事損害賠償の対象となり、個人の被害者と州司法長官の双方が提訴する権限を持つ。
■HF 1606の合憲性を巡る懸念と、その重要性
SpaceXAI（2026年2月のSpaceXとの合併に伴いxAIからブランド変更された事業体）が提出した39ページの訴状は、法学者が真剣かつ深刻だと指摘する、同法の2つの構造的な問題を特定している。
1つ目は、コンテンツベースの制限に関する問題である。HF 1606は、特定の画像が何を描写しているかを調査することなしには施行できない。つまり、出力が特定可能な人物のヌード化画像である場合にのみ適用される。2015年の最高裁による「リード対ギルバート町事件」の判決に基づき、適用可能性を判断するために言論のコンテンツを調査することを要求する法律は、一応違憲と推定され、厳格審査（strict scrutiny）を通過しなければならない。政府は、その法律がやむにやまれぬ利益（compelling interest）に資するものであり、利用可能な最も制限の少ない手段を通じて狭く限定されている（narrowly tailored）ことを示さなければならない。SpaceXAIは、同意のないヌード画像を防止するというミネソタ州の利益については争わないと明言している。争点は「狭く限定されているか」という点にある。
2つ目の、より技術的に重要な問題は、故意要件のない厳格責任の構造である。HF 1606の下では、プラットフォームが1件あたり50万ドルの損害賠償にさらされるかどうかは、ユーザーがプラットフォームで何をするかに完全に依存しており、プラットフォームの運営者が何を知っていたか、何を意図していたか、あるいは何を予見できたかには依存しない。利用規約でヌード化を明示的に禁止している運営者に対するセーフハーバーはない。最先端のコンテンツフィルターを導入している運営者に対するセーフハーバーもない。それらのフィルターが悪用をほぼゼロに減らしていることが証明されている場合でも、セーフハーバーはない。書面でヌード化を禁止し、技術的にブロックしているプラットフォームは、HF 1606の下では、それを積極的に促進しているプラットフォームと法的に同一に扱われる。
このエンジニアリング上の現実は、単なる専門的な些末事ではない。訴訟の結果がxAIやGrokという特定の枠を超えて重要となる理由はここにある。Canvaの背景削除からAdobeのAI搭載写真ツールまで、画像編集機能を備えたあらゆるプラットフォームは、拡散モデルのインペインティング・アーキテクチャを使用している。このアーキテクチャでは、「この人に赤いドレスを着せる」ことを可能にする機能と、「この人の服を削除する」ことを可能にする機能は技術的に同一である。安全性の確保は、プロンプトのフィルタリングと出力の監視レイヤーで行われるが、あらゆるユーザーからのあらゆるプロンプトの組み合わせに対して、偽陰性（すり抜け）をゼロにしてブロックできるコンテンツフィルターは存在しない。HF 1606は、書かれている通りであれば、プラットフォームが1万回の試行をブロックした後に、執念深いユーザーが見つけた1回のすり抜けに対してもプラットフォームの責任を問うことになる。
SpaceXAIは訴状の中で、ユーザーが10万枚の禁止画像を生成した場合、たとえそのプラットフォームのルールとフィルターが過去のすべての試行をブロックしていたとしても、HF 1606の下では500億ドル（約8兆2000億円）の潜在的な賠償責任に直面することになると試算している。
1959年の最高裁による「スミス対カリフォルニア州事件」の判決は、付随的検閲（collateral censorship）の原則を確立した。販売するすべての本の内容について、実際にその内容を知っているという要件なしに厳格な責任を問われる書店は、自ら読んでいない本の販売をやめるだろうというものだ。これをAI画像プラットフォームに適用した場合、結果は同じになる。コンプライアンスを遵守する運営者に対するセーフハーバーのない厳格責任は、悪意ある行為者を標的にするのではなく、すべての画像編集プラットフォームを平等に標的にし、市場から撤退するか、一般的な画像編集機能を完全に無効にするかの二者択一を迫ることになる。
■ミネソタ州司法長官の姿勢と既存の連邦法との違い
エリソン司法長官は、引き下がるつもりはないことを明確にした。月曜日の声明でエリソン氏は、「AIを使って人々の意に反してヌード画像を生成することが言語道断であることは承知している」と述べた。「AI政策については、議論する価値のあるテーマがたくさんある。しかし、これはその一つではない。AIによるヌード化は、標的となった人から尊厳を奪い、感情的、個人的、職業的なレベルで計り知れない損害を与える可能性がある」。ティム・ウォルズ知事の反応はより簡潔で、訴状が公開された直後にX（旧Twitter）に「法廷で会おう、変質者（creep）」と投稿した。
この法律の支持者たちは、既存の連邦法の枠組みにある現実的なギャップを指摘している。2025年に署名された「Take It Down Act」は、プラットフォームに対し、被害者の要請から48時間以内に同意のない親密な画像を削除することを義務付けている。これは配信を標的としたアプローチである。ミネソタ州の法律はさらに上流に遡り、画像が共有される前に、画像を作成するために使用されるツールを標的にしている。メイ・クエイド上院議員のオフィスは、画像が作成され、閉鎖的なメッセージングアプリを通じて同級生や同僚に送信された後では、配信を標的とした法律に基づく削除プロセスでは、拡散を元に戻すことなく画像を削除することしかできないと主張している。
■訴訟の背景にあるGrokの過去の事例
xAIの異議申し立ての憲法上のメリットがどうであれ、この訴訟は、訴訟を起こしている特定のプラットフォームによる大規模な被害が記録されているという背景の中で提起されている。Center for Countering Digital Hateの研究者らは、イーロン・マスク氏がXでGrokの画像編集機能を公に宣伝した直後の11日間（2025年12月29日から2026年1月8日まで）に、Grokが約300万枚の性的な画像を生成し、その中には子供を描写しているとみられる画像が約2万3000枚含まれていたと推定している。The New York Timesは別の分析で、女性の性的な画像の下限を180万枚と見積もっている。
Lieff Cabraserのクラスアクション（集団訴訟）の訴状の主張によれば、SpaceXAIは抗議を受けて機能を無効にするのではなく、画像生成を有料のサブスクライバーに限定し、「スパイシーモード」をプレミアム特典としてマーケティングしたとされている。
2026年3月、3人の原告がカリフォルニア州北部地区連邦地方裁判所にクラスアクションを提起し、Grokが彼らの実際の写真から児童性的虐待素材（CSAM）を生成するために使用されたと主張した。CyberScoopが報じた修正訴状によれば、この訴状はその後修正・拡大され、2026年7月には、継父がGrokを使用して1枚の子供の頃の写真から約7000枚の性的に露骨な画像を生成したとされる原告を含む、2人の原告が追加された。さらに訴状は、SpaceXAIが加害者を当局に適切に報告しなかったと主張している。Lieff Cabraserの修正訴状によると、全米行方不明・被搾取児童センター（NCMEC）は、同社がユーザーの特定情報を含めることを拒否したため、xAIのCyberTiplineレポートの90%が法執行機関にとって実行不可能であったと判断したという。
SpaceXAIはこれらの主張に反論し、プラットフォームの悪用を厳格に禁止していると主張し、2026年だけで5万2000件以上のアカウント停止と7万3000件以上のNCMECへの報告を行っていると指摘している。
■AIヌード化の仕組みと、セーフハーバーが技術的に必要な理由
AIヌード化の背後にある技術は、プラットフォームが単に無効にできるような特殊なアドオンではない。Grok Imagine、Adobe Firefly、Stable Diffusionベースのツールなど、最新のAI画像エディターは、インペインティング機能を備えた拡散モデル・アーキテクチャで動作している。これらは、テキストプロンプトに基づいて、アップロードされた画像の特定の領域を選択的に再生成する。「別の背景を追加する」または「この人にスーツを着せる」ことをユーザーに許可する機能は、ヌード化の要求と同じ基盤となるニューラルパイプラインを使用している。
したがって、安全性の確保は、プロンプトのフィルタリングレイヤー（フラグが立てられたキーワードや意味論的パターンを引き起こす要求を拒否する）と、出力の監視レイヤー（生成された画像を既知のCSAMデータベースやポリシー分類器と照合する）で適用される。どちらのレイヤーのフィルターも、考え得るすべてのユーザーのプロンプト戦略に対してすり抜けをゼロにすることはできない。クラスアクションの訴状によると、SpaceXAI自身が、ユーザーが要求に「10代」や「女の子」などの用語を含めた場合、「善意」を前提とするようにGrokのシステムプロンプトを構成しており、有害なコンテンツを生成する可能性が最も高いプロンプトに対して、入力レイヤーでのフィルターを事実上弱めていたと主張されている。
これが、故意要件とセーフハーバーを巡る憲法上の議論が単なる訴訟戦術ではない理由である。ヌード化を積極的に促進するプラットフォームと、それを禁止してフィルタリングするプラットフォームを区別することなく、運営者に画像ごとの厳格な責任を課すNCIIプラットフォーム法は、技術的な不可能性を生み出す。偽陰性ゼロの解決策が存在しない分類問題に対して、偽陰性ゼロの基準を遵守することはできない。HF 1606を支持したミネソタ州ACLU（アメリカ自由人権協会）は、同法の民事罰の構造を、すべての画像プラットフォームを平等に標的にするのではなく、最悪のケースの運営者を標的にするものとして位置づけた際、この矛盾を暗黙のうちに認めていた。
■SpaceXAIによる3つの州での規制への異議申し立て
ミネソタ州の訴訟は、SpaceXAIにとって過去7カ月間で3件目の州に対する異議申し立てとなる。2025年12月、同社はカリフォルニア州の「生成AIトレーニングデータ透明性法（AB 2013）」を阻止するため、ロブ・ボンタ司法長官を提訴し、開示要件は違憲な言論の強制と営業秘密の破壊に当たると主張した。連邦地方裁判所は2026年3月に予備的差し止め命令を却下し、事件は現在第9巡回区控訴裁判所に係属しており、7月16日に口頭弁論が行われた。2026年4月、SpaceXAIはコロラド州AI法に対する別の異議申し立てを行い、同州のアルゴリズムによる差別に関する要件は憲法上欠陥があると主張した。Jenner & Blockの介入に関する分析によると、米国司法省は2026年4月にコロラド州の訴訟に介入したが、これはトランプ大統領の大統領令14365に基づき、司法省が州のAI法に対してそのような措置を取った初めてのケースとなった。
ミネソタ州の訴訟は、主題と社会的な注目の両方において、カリフォルニア州やコロラド州の異議申し立てとは大きく異なる。それらの訴訟が主に商業的開示とアルゴリズムの責任に関する議論を提起したのに対し、HF 1606の訴訟は、州上院で65対0で可決され、その立法経緯が性的搾取の個々の被害者に根ざしている法律に反対する立場にSpaceXAIを置くことになる。
■訴訟の行方と今後の法整備への影響
法律の専門家たちは、この訴訟の重要性は真に全国的なものだと説明している。訴訟が提起された時点で、カリフォルニア州、ニューヨーク州、およびその他のいくつかの州で、HF 1606をモデルにした法律が検討されていた。土曜日より前にミネソタ州の法律を阻止する予備的差し止め命令、あるいは法律を無効とする本案判決が出れば、現在のモデルが憲法上脆弱であることをそれらの州議会に即座に示すことになる。
しかし、この訴訟のより重大な結果は、ミネソタ州の特定の法律が存続するかどうかではないかもしれない。判決に関係なく、それが生み出すテンプレートこそが重要になる可能性がある。xAIが勝訴した場合、将来のNCIIプラットフォーム法案には、故意要件（プラットフォームが自社のサービスがヌード化に使用されていることを知っていた、または知るべきであった場合にのみ責任を課す）、利用規約でヌード化を禁止し、技術的制御によって誠実なコンプライアンスを実証しているプラットフォームに対するセーフハーバー、そして、機能が悪用される可能性のある汎用画像エディターではなく、ヌード化のために特別に設計された、またはマーケティングされたプラットフォームを対象とする、より狭い適用範囲を含める必要がほぼ確実に出てくる。
もしミネソタ州が勝訴すれば、そのテンプレート（セーフハーバーのない厳格責任をインシデントごとに適用する）は、他のすべての州で利用可能になる。アメリカの画像編集機能を備えたすべてのプラットフォームは、同じ不可能なコンプライアンス基準に直面することになる。
ミネソタ州ACLUがHF 1606を異例の形で支持したことは、市民的自由の擁護者たちが、AIによるヌード化の害は言論の負担を正当化するほど深刻であると結論づけたことを示している。しかし、ReclaimTheNetによる訴状の分析は、小規模な運営者にとって何が危機に瀕しているかを特定している。同分析によると、SpaceXAIは「機能をジオフェンスで囲い込み、法廷に行く余裕がある。敗者となるのは、4人のメンテナーがいるオープンソースの画像モデルや、背景削除機能を追加した結果、無制限の責任を負うことになった小規模な写真編集スタートアップだ」という。これこそが、ミネソタ州連邦地方裁判所が解決しなければならない現実的な憲法上の問題であり、法律が施行されるまでの72時間のカウントダウンが始まっている。
■注目ポイントQ&A
●ミネソタ州のHF 1606は具体的に何を禁止していますか？
ウェブサイトやアプリなどのデジタルサービスを所有・管理する者が、ユーザーにそのサービスを利用させて画像や動画をヌード化することを禁じています。これは、元の画像には見えなかった特定可能な人物の親密な部分を描写するよう改変・生成することを指します。個人のユーザーではなくプラットフォーム運営者を対象とし、違法なインシデント1件につき少なくとも50万ドルの民事責任を課します。被害者本人と州司法長官の双方が提訴可能です。利用規約で禁止したり、コンテンツフィルターを導入したりしているプラットフォームに対する例外（免責）はありません。
●この法律に対するxAIの修正第1条に基づく主張は何ですか？
SpaceXAIは、HF 1606が画像の描写内容に基づいてのみ適用される「コンテンツベースの制限」であり、2015年の最高裁「リード対ギルバート町事件」判決に基づく厳格な違憲審査基準を満たす必要があると主張しています。同社は、同意のないヌード画像を防止するという政府の利益がやむにやまれぬものであることは認めており、争点は「狭く限定されているか」に絞られています。ヌード化を禁止し積極的にフィルタリングするプラットフォームに免責を与えない厳格責任の構造の下では、遵守する方針と堅牢なコンテンツ管理を備えたプラットフォームが、悪用を助長するプラットフォームと同じ法的責任にさらされることになります。これは狭く限定された規制ではなく、AI画像編集というカテゴリー全体を萎縮させる鈍重な手段であるとxAIは39ページの訴状で述べています。
●既存のコンテンツフィルターでAIによるヌード化を完全にブロックすることは可能ですか？
失敗率をゼロにすることはできず、その技術的事実が憲法上の議論の中心となっています。AI画像エディターはすべての編集タスクに同じ拡散モデルのインペインティング・アーキテクチャを使用しており、無効化できる独立した「ヌード化モジュール」は存在しません。安全性の確保はプロンプトのフィルタリングと出力の監視で行われますが、十分に工夫されたプロンプト戦略によってすり抜けが発生する可能性があります。
あらゆるユーザーのプロンプトに対して偽陰性ゼロを達成できるコンテンツフィルターは存在しません。いかに包括的にフィルタリングしても、すべてのすり抜けに対してプラットフォームの責任を問う厳格責任法は、技術的に達成不可能なコンプライアンス基準を生み出します。ReclaimTheNetによる訴状の分析によれば、これこそがxAIの法的異議申し立ての核心にある固有のエンジニアリング上の制約だと説明されています。
●xAIがこの訴訟に勝った場合、州はAIヌード化ツールを禁止できなくなるのですか？
必ずしもそうではありません。HF 1606が厳格審査を満たさないという判決が出ても、州がNCIIプラットフォーム関連法を制定できなくなるわけではなく、将来の法律がより狭く限定される必要があることを意味します。法のアナリストは、将来の法律には故意要件（プラットフォームが悪用を知っていたか知るべきだった場合のみ責任を問う）、利用規約を遵守し誠実なフィルタリングを実証したプラットフォームへの免責条項、そして汎用画像エディターではなくヌード化のために特別に設計・マーケティングされたサービスに限定した、より狭い適用範囲が含まれることになると予想しています。憲法上の争点に関する分析によれば、この訴訟の判決がどちらに転んでも、全米のNCIIプラットフォーム法の立法テンプレートを再形成することになると見られています。
元記事: xAI Challenges Minnesota Nudification Law With No Safe Harbor, No Scienter