AIによる福祉手当不正受給検出システム、人権侵害と判断　オランダで

2020年2月14日 16:51

　オランダで、福祉手当を不正に受給している疑いのある人を見つけ出すために人工知能（AI）を使ったシステムが導入されたそうだ。これに対し人権団体などが欧州人権条約に違反しているとして提訴していたが、この裁判で裁判所は条約違反を認め、システムの使用停止を命じる判断を行なった（Yahoo!ニュース）。

　このAIは雇用歴や逮捕歴、納税状況などさまざまなデータを使って不正受給の危険度を算定するというもので、4自治体で使用されたという。このスコアを元に人間の担当者が調査を行うというものだが、このシステムの対象とされた地域が低所得者や移民が多く住む地域だったことなどから批判が出ていたという。

　裁判所はこのシステムについて不透明だと判断、さらにEUの一般データ保護規則（GDPR）やEU基本権憲章などで定められたプライバシ保護の基本原則に合致していないと判断、システムの使用差し止めを命じた。

関連記事

最新記事