Anthropic新利用ポリシー、11月12日発効―Claude連携機器に接続断時の安全確保を要求
2026年11月10日 20:23
Anthropicは2026年11月12日、人を負傷させるおそれのある機器をClaudeが人の承認なしに操作する用途に、新たな安全要件を適用する。運用者には、適任の担当者による監視・停止体制、接続喪失時の停止または安全状態の維持、モデル出力から独立した安全上限の強制が求められる。
新しい利用ポリシーはAmazon Bedrock経由の利用も対象とする。機器との連携を行う企業は、適用条件に加え、通信が途絶えた際の動作や安全制限の実装を確認しておく必要がある。
■高リスクの機器制御に3つの安全要件
Anthropicが10月8日に発表した改定では、「高リスクの物理的動作」に関する規定が加わった。人の承認を経ずにモデル出力がハードウェアによって実行され、その機器や接続先の設備が人に危害を及ぼし得る場合に適用される。
第1の要件は、機器の運転を観察し、いつでも停止できる適任の担当者を確保することだ。第2に、その担当者が介入した場合、またはAnthropicのサービスとの接続が失われた場合、機器は停止するか、安全な状態を維持する必要がある。
第3に、速度、力、到達範囲、温度、圧力、電圧、エネルギー出力、投与量、動作領域などの安全上限を、機器自体またはモデル出力から独立したコントローラーで強制しなければならない。モデルへの指示とは別に、実際の動作を制限する仕組みを設ける要件である。
クラスメソッドが紹介した10月14日付のAWS Health通知によると、11月12日以降もBedrockでAnthropicのモデルを使い続けると、改定後の条件に同意したものと見なされる。同通知は、この改定に伴うモデルの提供状況、料金、APIの挙動、モデルIDの変更はなく、AWSコンソールでの操作も不要としている。改定前のポリシーは2025年9月15日発効版で、新版の適用開始まで利用条件を定める。
■対象となる6類型と4つの除外条件
対象となる機器の動作は6類型に整理されている。人がいる共有空間での移動、負傷につながる力の行使、危険なエネルギーや物質の制御、人体への作用、安全システムの制御、故障によって人に危害を及ぼし得る産業プロセスの運転だ。
具体例には、車両・ドローン・移動ロボットの操縦、ロボットアームやプレス機の作動、危険な熱源・高電圧回路・化学物質の操作が含まれる。人体への薬剤投与、消火設備や緊急遮断装置の制御なども挙げられている。
除外される利用は4種類ある。メーカーが組み込んだ安全上限の範囲内で動き、最悪の結果が不快感や不便にとどまる消費者向け・家庭向け機器、適任者が実行前に確認する計画・コード・コマンドなど、制御を伴わない監視・計測・報告、密閉型装置内で危険性のない材料を扱う実験室の自動化である。
適用判断では、機器の名称だけでなく、実行前の承認手順、起こり得る結果、人が保持する制御権限を確認することが重要になる。ポリシーも、モデルの自律性に対して利用者がどの程度制御できるかや、プロンプトインジェクションなどのリスクを評価するよう求めている。
ポリシーの序文には、一部の政府顧客との契約で、公的任務や法的権限に合わせて利用制限を調整できる規定もある。Anthropicが、契約上の制限と安全措置によって想定される危害を十分に軽減できると判断することが条件となる。
■モデルの指示と機器の安全制御を分ける
大規模言語モデル（LLM）を機器制御に組み込む際のリスクは、研究でも調べられてきた。ペンシルベニア大学のHamed Hassani氏、George J. Pappas氏らの研究チームは2024年10月、LLM制御ロボットの安全対策を回避する攻撃手法「RoboPAIR」をarXivで公表した。
研究対象は、Unitree Go2の四足歩行ロボット、GPT-4oを計画生成に使うClearpath Jackalの車輪型ロボット、NVIDIAの自動運転向けモデルDolphinsの3システムだった。研究チームは、設定した有害動作の試験でRoboPAIRの攻撃成功率100％を報告している。Dolphinsの評価には走行映像を使ったシミュレーション環境が用いられた。
英国国家サイバーセキュリティセンター（NCSC）も、プロンプトインジェクションについて、SQLインジェクションと同じように完全に対処することは難しい可能性があると指摘し、リスクと影響を抑える設計を求めている。機器側で動作上限を強制する仕組みは、モデルが生成する指示から実際の動作への経路に、安全制御を置くという考え方につながる。
■機器連携を標準化するModel Hardware Standard
Anthropicは今回の安全要件を、8月27日に研究プレビューを開始した「Model Hardware Standard（MHS）」と関連付けて説明している。同社によると、Claudeがより長時間、自律的に作業するようになったことを踏まえた改定だ。
MHSは、プログラムから操作できる実験装置や製造設備を、AIエージェントが共通の方法で利用するための仕様である。標準化したドライバーが読み取り・書き込みの基本操作を提供し、MCP、コマンドライン、コードファイルを通じて機器を制御する。
ドライバーには、機器の特性や調整可能な項目、安全上限などを記載した参照ファイルを生成する仕組みもある。運用時の確認点は、そこに記された上限が機器やコントローラーでどのように強制されるかである。
Anthropicの発表には、Genentech、カーネギーメロン大学、HHMI Janelia、QuEra Computingのほか、AWS、Danaher、Universal Robots、Doosan Robotics、Hugging Face、Raspberry Piなどの取り組みが挙げられている。同社は研究プレビューで安全評価や運用上の知見を集め、オープンソース化する方針を示している。
■接続喪失への備えと既存の安全規格
接続喪失時にも停止または安全状態を維持するには、Claudeから追加の指示を受けずに作動する仕組みが必要になる。機器やその制御系で通信異常を検出し、用途に応じた安全動作へ移れるかが、設計・試験の確認点となる。
安全状態の選定には、機器と作業の危険性を踏まえた評価が必要だ。停止、位置保持、退避などの動作を検討するとともに、通信異常の検出条件や復旧手順を定めることで、安全確保と運転継続性の両面を扱うことになる。
利用ポリシーの要件と併せて、車両、航空、医療機器、機械、労働安全に関する法令や認証要件も適用される。産業用ロボットの安全規格ISO 10218-1とISO 10218-2は2025年に改訂されている。
ISO 10218-2:2025では、非常停止と保護停止を必須の安全機能とし、標準的な要求性能として、それぞれパフォーマンスレベル（PL）cまたは安全度水準（SIL）1、PL dまたはSIL 2を示している。要求性能の決定には、規格に沿ったリスクアセスメントが関わる。
EUの機械規則である規則（EU）2023/1230は、原則として2027年1月20日から適用される。附属書IパートAは、機械学習で全部または一部の挙動が自己変化する安全部品や、そのような安全機能を担うシステムを内蔵する機械を対象に含み、通知機関が関与する適合性評価を求める。2026年7月の規則（EU）2026/1744による改正後も、この適用開始日は維持されている。
■助言・判断、兵器、選挙活動の規定も整理
今回の改定は機器制御に加え、個人への助言や判断に関する高リスク用途も整理している。対象は、法律、医療、金融、与信、保険、住宅、雇用、教育・資格、医療へのアクセス、公的給付・サービス、法的地位・裁定の11分野だ。
該当する助言や判断では、原則として、その分野の出力を評価できる訓練や経験を持つ人が、提供・実行前に内容を確認し、変更できる権限を持つ必要がある。法令上資格が必要な活動では資格の保有も求められ、影響を受ける本人にはAIを使ったことを明示する。クラスメソッドは、対象分野が旧版の7分野から、分割や入れ替えを含む11分野へ再編されたと説明している。
兵器については、開発に加えて、誘導・制御用ソフトウェアや部品、ドローンなどの無人機への武装化も禁止対象として明示された。法執行・刑事司法では、捜査、訴追、逮捕・拘束、量刑などの判断や提案を禁じる。Anthropicはこれらを従来の執行方針の明確化と説明する一方、クラスメソッドは法執行・刑事司法の禁止範囲を拡大と表現している。
選挙関連では、個別化した投票・選挙運動のターゲティングに対する一律の禁止が削除された。Anthropicは、多言語で有権者に情報を届ける非営利団体や、投票用紙の不備修正を通知する選挙管理当局など、正当な市民活動を可能にするためと説明する。欺瞞的な活動や個人情報の不正利用には、関連する禁止規定が適用される。
欺瞞的な活動の規定には、検索エンジンやAIの回答情報源へ、出所・著者・独立性を偽ったコンテンツを送り込む行為も含まれる。AI検索向けの情報発信を支援するElementeraは、禁止対象をこうした偽装行為と捉え、アンサーエンジン最適化（AEO）全般を禁じるものではないと分析している。同社はAEOサービスの提供企業でもある。
■モデルへの虐待行為とアクセス提供のルール
モデルに対する、持続的で不必要な虐待的・残虐な行為も禁止項目に加わった。Anthropicは、目的が見いだせない残虐な行為を繰り返す極端なケースを対象とし、通常の不満や反論、暗い題材の創作、モデルのテストや研究は対象外と説明している。
主な対応手段は、Claudeがそのような会話を終了する機能である。Anthropicは2025年8月、消費者向けチャットでClaude Opus 4と4.1にこの機能を導入した。Interesting Engineeringは、反復違反に対する追加措置の扱いは明確にされていないと報じている。ポリシー全体の執行措置には、警告、利用速度・利用範囲の制限、一時停止、アクセス終了がある。
また、消費者向けサブスクリプションでリクエストを中継するサービスなど、許可されていない手段によるClaudeアクセスの再販・代理提供を禁じる。クラスメソッドは、この禁止事項を新たに追加されたものと説明している。
対応地域の規定では、非対応地域にいる人、その地域で設立されたか本社を置く組織、同地域の人物や組織が過半数を所有するか支配する組織による利用を制限する。Anthropicは、対応地域に関する既存方針の執行方法を明確にしたとしている。
■11月12日までに確認したい運用体制
機器連携の運用者は、まず各用途を6つの対象類型と4つの除外条件に照らし、どの動作に人の事前承認があるかを整理するとよい。対象となるシステムでは、監視と停止を担う適任者、その役割を果たせる知識・経験、実際に介入できる体制を確認する。
試験では、通信を切った場合と担当者が介入した場合の両方で、機器が停止または安全状態を維持するかを確かめることが有用だ。モデルから上限外の指示が来た際にも、機器や独立したコントローラーで安全上限が守られるかを検証する。
個人への助言・判断を扱うサービスでは、高リスク11分野の確認とAI利用の開示手順も点検する必要がある。外部利用者と直接やり取りするチャットボットやエージェントには、AIと対話していることの明示も求められる。Anthropicは今後も、政策立案者、専門家、市民社会、利用者から意見を集め、能力とリスクの変化に応じてポリシーを更新するとしている。
元記事: Anthropic Usage Policy Takes Effect Thursday: Claude-Driven Machines Must Stop When Connection Drops