Apple Card、利用限度額の算出アルゴリズムに性別データは使用されず

　Anonymous Coward曰く、

　先日、Apple Cardの利用限度額決定アルゴリズムが男女差別をしているのではないかとの疑惑が話題になったが、Apple CardをAppleと提携して提供しているゴールドマン・サックスによると、利用限度額を決定するアルゴリズムには性別データは入力されていないという。

　しかし、性別と相関するデータを取り込んで利用する限り女性に対するバイアスが生じてしまう可能性があり、また性別データを使わない場合、相関データによって生まれるバイアスを検証ができないとの意見も出ている。

　アルゴリズムが！AIが導き出した正解！などの扱い、今後どうなるどうするか諸氏はどう思いますか？

　スラドのコメントを読む | アップルセクション | 人工知能 | ニュース | アップル | お金

　関連ストーリー：
米民主党、IT企業が偏向したアルゴリズムを利用することを防ぐ法案を提出 2019年04月17日
米AmazonのAIによる履歴書判定システム、男性有利な判定が判明して開発中止になっていた 2018年10月14日
採用に使われる面接用AIが人種差別をする可能性 2018年04月25日
Apple Cardの利用限度額決定アルゴリズムが男女差別をしているのではないかとの疑惑 2019年11月13日