富士通研究所、文化やビジネス慣習によって異なる公平性を設計段階から考慮するAI開発手法Fairness by Designを開発

TOKYO, Mar 31, 2021 - ( JCN Newswire ) - 株式会社富士通研究所（注1）（以下、富士通研究所）は、このたび、設計段階から公平性を考慮できるAIの開発手法 Fairness by Design（フェアネス・バイ・デザイン）を開発しました。

本手法については、2020年12月から2021年3月にかけて、欧州圏有数の銀行グループであるイタリアのインテーザ・サンパオロ銀行（注2）（以下、ISP）と共同で実証実験を行い、地域ごとに異なる文化などの差異を考慮しながらローン審査AIアプリケーションにおける公平性を改善できることを示し、その有効性を実証しました。

今回開発したFairness by Designでは、設計段階からユーザーや関係者の意見を取り入れるデザイン手法として社会科学で確立されている参加型デザイン手法（注3）を用いて、例えば、ローン審査の判断基準となる収入、勤務先、取引履歴などの属性と、公平性（注4）に関わる年齢、性別、国籍などの属性の重みを数値化することで、ビジネス上の要件と公平性をバランスさせたAIモデルの開発を可能とします。さらに、公平性に関わる属性、文化やビジネス慣習の違いでは容認されない偏見を除去する手法として、年齢や性別、国籍などの属性が特定の条件で組み合わされた時に現れる交差バイアス（注5）を軽減するアルゴリズムも新たに開発し、Fairness by Designに組み込みました。

実証実験では、本手法を活用して、日本、米国、英国の3地域に対応したローン審査AIを構築し、ISPが保有する23万件のデータを用いてローン審査を行ったところ、応募者全体の約2%に対して、地域ごとの公平性により判断が異なることが明らかになりました。さらに、交差バイアスを軽減するアルゴリズムを適用したところ、審査精度は地域ごとに大きく変わることなく、公平性が大幅に改善されることが検証できました。

今後、当社は、ビジネス慣習が異なる様々な領域や文化が異なる多種多様な地域で実証実験を進め、公平なAIの開発を通じて公正で平等な社会の実現に貢献します。

本リリースの詳細は下記をご参照ください。
https://pr.fujitsu.com/jp/news/2021/03/31-1.html

概要： 富士通株式会社

詳細は http://jp.fujitsu.com/ をご覧ください。