AISI、「ヘルスケア領域におけるAIセーフティ評価観点ガイド」を策定

Trustworthy AI（信頼できるAI）の実現に向け、ヘルスケア領域における実務観点でのAIセーフティ評価の実装プロセスを体系化

AIセーフティ・インスティテュート（AISI、所長：村上明子）の事業実証ワーキンググループ（以下、事業実証WG）の一つであるヘルスケアサブワーキンググループ（以下、SWG）は、ヘルスケア領域における生成AI技術の安全な社会実装を加速させるため、「ヘルスケア領域におけるAIセーフティ評価観点ガイド」（以下、本ガイド）を策定しました。
本ガイドは、AISIが策定したAIセーフティに関する評価観点ガイドを参考に、医療・ヘルスケア特有の機微性やリスクを反映した、実務者向けの具体的な評価手法を提示するものです。
※IPAは、AIセーフティ・インスティテュートの事務局機能を一部担っています。
詳細はこちら
IPA公式ウェブサイト

■背景と目的

近年、生成AIは医師の業務効率化や患者コミュニケーションの支援など、ヘルスケア分野に大きなイノベーションをもたらしています。一方で、ハルシネーション（誤情報の生成）による健康被害のリスクや、高度なプライバシー保護、セキュリティの確保など、ヘルスケア領域特有の課題が山積している状況です。
2025年12月に閣議決定された人工知能基本計画では、具体的な取組として医療・ヘルスケア分野におけるAIの開発・実証・導入・社会実装の促進が明記されました。また、2026年1月に開催された「Hiroshima Global Forum for Trustworthy AI」で議論されたように、国際社会においても「Trustworthy AI（信頼できるAI）」の実現が重要課題となっています。
今般、ヘルスケアSWGでは事業者が開発・設計段階から安全性を担保し、ビジネス価値と安全・安心を両立できる環境の整備を目的に活動し、本ガイドを策定しました。

■ガイドの主な特長

本ガイドは、専門家が少ない企業でも容易に活用できるよう、以下の特長を有します。

1. AIライフサイクルに沿った5つのフェーズ毎の評価ポイント
AIライフサイクルに沿った、プロダクト設計、モデル選定、プロダクト実装、プロダクト検証、プロダクト導入・運用の5つのフェーズで、それぞれ何を評価すればよいのか、ポイントをまとめています。

2. 10項目の多角的な評価観点と具体的なリスクの想定
AIセーフティに関する評価観点ガイドから、それらをヘルスケア領域に適用した際にはどのような観点が必要なのか、具体的に10項目を掲載しています。また、「医療・健康に関する誤った情報や危険な情報の提供により、患者の生命・健康に直接的な被害をもたらし得る」など、それらの観点での評価を怠ることによって想定されるリスクも併記しています。これらは普遍的なものからヘルスケア領域特有のリスクまでカバーしており、AI活用に際してのリスクマネジメントにも役立ちます。
また、本ガイドの評価観点に基づいたAIセーフティ評価を実施できるよう、具体例（プロンプト、エージェントスキル等）を掲載した実践ガイドも今後、公開する予定です。

SWGの参加組織

Ubie株式会社（SWGリーダー）、株式会社Awarefy、味の素株式会社、SB Intuitions株式会社
シミックホールディングス株式会社、SherLOCK株式会社
日本デジタルヘルス・アライアンス（JaDHA）、株式会社MICIN、公益財団法人 東京財団
株式会社三菱総合研究所（SWG事務局）

今後の展望

ヘルスケアSWGでは、本ガイドを信頼できるAIを実現するための実務向けの手引きと位置づけ、急速に変化する生成AI技術や社会情勢、国際的な規制動向に合わせて適宜更新してまいります。これにより、ヘルスケア分野におけるAIの安全な社会実装と、持続可能なビジネス価値創出に貢献してまいります。

参考情報

AISIヘルスケアSWG紹介動画(IPA YouTube Channel)

※IPAは、AIセーフティ・インスティテュート事務局の事務局機能を一部担っています。

資料のダウンロードはこちらから
AISI公式ウェブサイト



■本件に関するお問い合わせ先
AIセーフティ・インスティテュート事務局 二村・加藤・前田
Email：aisi-info@ipa.go.jp

PR TIMESプレスリリース詳細へ