人工知能による管理社会到来!? 顔認証技術と人権侵害

　私達の生活のあちこちで、AI（人工知能）をうたうサービスや商品を聞くことが多くなった。AIの実用化が進むことで、新しい製品やサービスが登場し、経済的、社会的なベネフィットを受けられるようになってきている。

【こちらも】AIは差別を助長する!? 人工知能に刷り込まれた認知バイアス

　一方でAIの発展は、従来にはなかった問題を起こし始めている。私達が普通に生活し、働き、市民生活を送る上で、AIが好ましくない存在となるケースが見られる。インターネット上の商業サイトや、ソーシャルサービスからの個人情報の流出が連日のようにニュースになっている。自分に関する情報は誰のものなのかということについて、考えて始めている人も多いだろう。

　企業や公共機関がAIを実装するに当たって、個人の情報を使うことはどのようにして制限されるべきなのだろう。

　AIを利用したフェイスリコグニション（顔認証）による個人特定に関するトラブルは、世界では既に訴訟にも発展している。今回は、アメリカとイギリスで発生したこれらの事件の概要と、AI関係企業の動向に関する報道から、AI、特にフェイスリコグニションと人権の問題について見てみたい。

●フェイスリコグニションの目的と違法性

　ニューヨークに住む18歳の大学生が、マンハッタンその他4軒のアップルストアから製品を盗んだという容疑でニューヨーク警察に逮捕された。警察はアップルストアのフェイスリコグニションソフトウェアによりこの学生を犯人と特定したが、実際に監視カメラに写っていた犯人は、逮捕された学生とは全く似ていない人物だった。本当の犯人は、ボストンのアップルストアで1,200ドル（約13万円）相当の製品を盗んだ際に、この学生のIDを使って虚偽の氏名を名乗っていた。

　このIDには顔写真がついていなかったため、その後この犯人がアップルストアで盗みをするたびに、ソフトウェアはこの学生の情報を犯人として特定していたのだ。学生はアップルが監視カメラで特定の人物を追跡しているシステムは違法だとして、アップルに対して10億ドル（約1100億円）の賠償を求めて訴訟を起こしている。

　シカゴではグーグル・フォト上にアップされた11枚の写真に、知らないうちに自分の写真が写っていたことを違法として、女性が同地の裁判所に訴えを起こした。グーグルは女性の許可を得ずに、グーグル・フォトに彼女の顔写真をアップし、顔のテンプレートとして使っていた、とされている。本件は実際に損害が発生していないことを理由として棄却されたが、同様の訴訟がさらに二つ係争されている。

　イギリスのカーディフでは、警察の監視カメラに搭載された自動フェイスリコグニション（AFR）によって特定された男性が、人権侵害として裁判所に訴えを起こしている。この男性はクリスマスショッピングの最中に写真を撮られ、その翌年に武器輸出反対のデモに参加しているときにもAFRによって写真を撮影されたという。

　男性は警察によるこのようなフェイスリコグニションの利用は、警察権の濫用だとして規制を求めている。人権擁護団体も同じ懸念を持ち、このようなAFRの利用は、道を歩く人から強制的に指紋やDNAを採取しているのと同じだ、としてこれを問題としている。

●サンフランシスコ、フェイスリコグニション導入を禁止

　サンフランシスコでは、市政府によるフェイスリコグニションの利用を禁止する法案が、賛成多数で可決された。サンフランシスコ市警察が装備を検討していたフェイスリコグニションデバイスに対して、懸念されるリスクを上回るメリットがあるとは思えない、として採用を見送った。フェイスリコグニションの公的使用に関しては全米各地で議論が進められているが、サンフランシスコの決定は重い意味を持つ。

　サンフランシスコ市は、自らがこのような先端技術の中心地であるからこそ、これを制限する責任があり、前例となる決断を自らするべきだとしている。この決定により少なくともカリフォルニア州では、全州で同様の規制が適用されることになるだろう。

　ロンドンでは都市警察がAFRの試験運用を終了する、と発表した。ディープラーニングAIにより、AFRの認識力は非常に高くなっているが、市民を保護するはずのAFRがどこで権利を侵害し抑圧することになるのかについて、管理方法と目的を考えるべき部分が多い、としている。カーディフの裁判官は現行法の規制で十分であるとは言いがたく、公権力の濫用を防ぐためにガイドラインの策定が必要であるとして、警察に対する抑止を要求する動きに呼応している。

　既に公共の場には多数の監視カメラが設置されている。これらのカメラ画像は収録されてはいるが、何か目的があって確認するときだけ再生される。一方でAFRの画像はAIによって逐次観察、分析されている。これを使えば特定の人物や特定の思想、経歴を持った人を継続して監視することが可能だ。AFRは警察活動に非常に有効なものとして高く評価する関係者もいる。

　フェイスリコグニションによるスクリーニングは、民間企業でも導入が進んでおり、大手小売りの店舗だけではなく、航空会社の搭乗手続きやホテルのチェックインでも採用されている。こういった企業が撮影した画像をAIで処理、分析することについて規制する法律はない。イギリスでは、AFRによる生体情報の追跡を、「1984」で知られる作家ジョージ・オーウェルが描いたような、全体主義的監視世界に向かうものとして警戒する意見もある。

　今後こ数年のうちに、AIは広い分野で急速に導入が進むだろう。AIを「使う者」が人々を束縛し、収奪する社会ではなく、人々がAIを使って発展する社会を作らなければならない。AIは企業の収益をあげるためのものではなく、社会の便益をあげるためのものだ。AIという技術のステークホルダーはそれを提供する企業と株主だけではない。社会とその構成員全員が関係者なのである。（記事：詠一郎・記事一覧を見る）