Apple Card、利用限度額の算出アルゴリズムに性別データは使用されず

2019年11月27日 09:15

　Anonymous Coward曰く、

　先日、Apple Cardの利用限度額決定アルゴリズムが男女差別をしているのではないかとの疑惑が話題になったが、Apple CardをAppleと提携して提供しているゴールドマン・サックスによると、利用限度額を決定するアルゴリズムには性別データは入力されていないという。

　しかし、性別と相関するデータを取り込んで利用する限り女性に対するバイアスが生じてしまう可能性があり、また性別データを使わない場合、相関データによって生まれるバイアスを検証ができないとの意見も出ている。

　アルゴリズムが！AIが導き出した正解！などの扱い、今後どうなるどうするか諸氏はどう思いますか？