AIによる福祉手当不正受給検出システム、人権侵害と判断　オランダで

　オランダで、福祉手当を不正に受給している疑いのある人を見つけ出すために人工知能（AI）を使ったシステムが導入されたそうだ。これに対し人権団体などが欧州人権条約に違反しているとして提訴していたが、この裁判で裁判所は条約違反を認め、システムの使用停止を命じる判断を行なった（Yahoo!ニュース）。

　このAIは雇用歴や逮捕歴、納税状況などさまざまなデータを使って不正受給の危険度を算定するというもので、4自治体で使用されたという。このスコアを元に人間の担当者が調査を行うというものだが、このシステムの対象とされた地域が低所得者や移民が多く住む地域だったことなどから批判が出ていたという。

　裁判所はこのシステムについて不透明だと判断、さらにEUの一般データ保護規則（GDPR）やEU基本権憲章などで定められたプライバシ保護の基本原則に合致していないと判断、システムの使用差し止めを命じた。

　スラドのコメントを読む | YROセクション | テクノロジー | 人工知能 | プライバシ

　関連ストーリー：
AIが審査をするビューティーコンテスト、AIは色白が好き？ 2016年09月11日
米民主党、IT企業が偏向したアルゴリズムを利用することを防ぐ法案を提出 2019年04月17日
教えて！gooでは人工知能が恋愛についてアドバイスする 2016年04月28日