IBM、AIの意思決定を可視化するツールキット オープン・ソース化

2018年9月25日 11:27

小

中

大

印刷

AIの意思決定の可視化(図:IBMの発表資料より)

AIの意思決定の可視化(図:IBMの発表資料より)[写真拡大]

写真の拡大

 IBMは20日、企業のAIに新たな透明性をもたらすテクノロジーを発表した。

【こちらも】グローバル企業の競争、最重要課題は「クラウド」「ビッグデータ」「AI分析」

 画像認識、自動運転、創薬はもとより、囲碁・将棋にも亘り、人工知能(AI)の優位性が認識される一方、AIの深層学習(ディープラーニング)はブラックボックスである。

 深層学習の登場以前は、人間の脳を模したニューラルネットワークの研究が主流であったが、十分な成果が出せずに冬の時代が続く。その冬の時代の2006年、トロント大学のジェフリー・ヒントンが多層にネットワークを畳み込む深層学習を提唱。そして2012年、物体の認識率を競うILSVRCベンチマークにて、従来の手法よりも10%も高い認識率83%を達成した。この画期的なAI手法とそれを可能にするGPUなどの半導体が、AIの新たな時代の幕開けとなる。

 83%の認識率は人間の能力を遥かに超える値らしい。注意深い人間でも70%程度らしく、それを瞬時には見分けることができない。ところが、この深層学習の厄介なことは、何故AIがそのような判断をしたのかが、ブラックボックス、つまり説明できないことだ。実際に、深層学習の生みの親であるジェフリー・ヒントン自身でさえ、ILSVRCでの論文発表で、高い認識率を得た理由やその原理に関する質問に、答えていない。

 企業には、事故などの原因に関する説明責任が伴う。AIがそう判断したでは、済まない事故も考えられる。IBMのAI 2018レポートでは、経営幹部5,000人のAIの有効性と危惧を述べている。企業の82%、そして好調な企業では93%が、収益の確保を主眼にAIの採用を検討する一方、60%はAIの判断における責任問題を危惧しているという。

 今回の発表では、AIが意思決定を行う際に自動的にバイアスを検出し、AIがどのように意思決定したかを説明することが可能という。ソフトウェア・サービスの名称は「AI Fairness 360ツールキット」であり、AIの信頼性と透明性を増す。

●「AI Fairness 360ツールキット」の特長

 IBMのクラウド上で稼働するこのサービスは、IBMのAIであるWatsonのみならず、Tensorflow、SparkML、AWS SageMaker、AzureMLなどの深層学習フレームワークとモデルに対応。つまり、多くの企業が採用している一般的なAIに対応するという。

 可視化の詳細な言及はないものの、「意思決定が行われるタイミングで意思決定の説明とAIモデル内のバイアスを検出」とあることから、ニューラルネットの因果関係のトレースや特異な決定因子を監視することで、潜在的な不具合を見つけるようだ。

●AIの可視化(IBM、「AI Fairness 360ツールキット」)のテクノロジー

 オープン・ソース・コミュニティーに「AI Fairness 360ツールキット」を提供し、AIモデル内のバイアス確認と軽減に役立てる構想だ。世界中のオープン・ソース・コミュニティーとの協働で、AIの可視化をIBMの強みとするのであろう。

 AI 2018レポートでは、経営幹部5,000人の回答で、63%はAIを確実に管理するための人材が社内にいないとの報告もある。このAI管理領域へのサービス拡大を目論む構想であろうか。(記事:小池豊・記事一覧を見る

関連キーワード自動運転ビッグデータクラウド人工知能(AI)IBMディープラーニング(深層学習)

広告

写真で見るニュース

  • ビル警備の実証実験に使われるAIロボット「ugo」(画像は大成の発表資料より)
  • 新型レヴォーグのプロトタイプ(画像: SUBARUの発表資料より)
  • アルマ望遠鏡で撮影された2つの分子雲の疑似カラー合成図。赤色と緑色がそれぞれ、速度が異なる一酸化炭素の同位体分子13COからの電波を表す。左図の青色はハッブル宇宙望遠鏡により観測された水素電離ガスの分布を示し、右図の青色は波長1.3ミリメートル帯の濃いガスに含まれる塵からの電波を示す。2領域とも、フィラメントが集合している「かなめ」(図で青色に示している部分)の位置に大質量星が存在する。(c) ALMA (ESO/NAOJ/NRAO)/Fukui et al./Tokuda et al./NASA-ESA Hubble Space Telescope)
  • 「シビック ハッチバック」と「シビック セダン」(画像: 本田技研工業の発表資料より)
  • 11月29日に開業するブランチ大津京(大和リース発表資料より)
  • スイフトの特別仕様車「HYBRID MGリミテッド」(画像: スズキ発表資料より)
  • 画像はイメージです。
  • Mercedes AMG A 45 S 4MATIC+edition1限定車(画像:メルセデスベンツ日本発表資料より)
 

広告

ピックアップ 注目ニュース