ＡＩによる顔認識に、改めて批判の声が強まっている。
直近のきっかけは、アマゾンの顔認識ＡＩ「レコグニション」が上下両院２８人の議員の顔を犯罪者と誤認識し、しかも黒人議員らの誤認識の割合が高かったという問題だ。
これ以前から、顔認識ＡＩの誤認識、特に有色人種や女性の誤認識率が高いという「バイアス（偏見・差別）」の存在は指摘されてきた。
ＡＩに潜む「バイアス」は、それによって就職やローン審査など実生活の場面で不利益を被る可能性がある一方、その判断の根拠がブラックボックス化してしまうという課題を抱える。
欧州連合（ＥＵ）で５月に施行された新たなプライバシー保護法制「一般データ保護規則（ＧＤＰＲ）」では、こういったＡＩなどによる「自動判定」を受けない権利を規定するなど、対処の取り組みも出ている。
顔認識ＡＩに対しては、米マイクロソフトから米国内法での規制を求める声明が発表されており、急速にマイナスイメージが拡大することへの危機感もあるようだ。
●「不平等を悪化させる危険性」
相次いで明らかになっている証拠によれば、これらのテクノロジーは、すでにある警察活動における人種の違いをめぐる不平等をさらに悪化させ、固定化してしまう危険性がある。
人種問題について強い影響力を持つ連邦議会黒人幹部会（ＣＢＣ）の元議長で下院議員のエマニュエル・クリーバー氏（民主）は、８月１５日、司法次官補代理のジョン・ゴア氏に宛てた公開書簡で、そう指摘した。
その上でクリーバー氏は、司法省公民権局に対し、捜査機関における顔認識ＡＩの利用が、公民権侵害、特に捜査における差別的な扱いを引き起こしていないか、調査するよう求めている。
グリーバー氏が指摘する「相次いで明らかになっている証拠」の一つが、アマゾンが提供している顔認識ＡＩ「レコグニション」をめぐる騒動だ。
●連邦議会議員２８人を犯罪者と誤認識
アマゾンの顔認識ＡＩ「レコグニション」が、２８人の連邦議会議員を逮捕歴のある人物として誤認識した――。
米自由人権協会（ＡＣＬＵ）は７月２６日、公式ブログでそんな実験結果を明らかにしている。
実験に使ったのは、ネットから入手した２万５０００人分の逮捕写真。これを「レコグニション」に入力して「犯罪者データベース」を構築。
このデータベースに、５３５人の上下両院の連邦議会議員の顔写真を判定させたところ、２８人が「犯罪者」と認識されたという。
この中には、公民権運動で知られる有力下院議員、ジョン・ルイス氏（民主）ら連邦議会黒人幹部会のメンバー６人も含まれており、有色人種の割合は３９％。
議会における有色人種の割合２０％の倍の割合だった、としている。
この結果を受けて、誤認識された２８人のうち、いずれも民主党の上院議員のエドワード・マーキー氏と、下院議員のルイス・グティアレス氏、マーク・デソールニアー氏の３氏は連名で、アマゾンＣＥＯのジェフ・ベゾス氏宛の公開書簡を送り、「レコグニション」の精度と、「バイアス」の検証について問い質している。
マーキー氏とやはり民主党上院のロン・ワイデン氏、クリス・クーンズ氏、さらに民主党下院で司法委員会のメンバーでもあるコーリー・ブッカー氏とジェロルド・ナドラー氏の５人は７月３１日、連名で議会の補佐機関である会計検査院（ＧＡＯ）に対し、政府機関における顔認識テクノロジーの使用状況と問題点について、調査を要求。
また、マーキー氏ら上院の３人は、３９の法執行機関に対しても、顔認識の使用状況について問い合わせている。
米自由人権協会の指摘に対して、アマゾン側は反論の声明を出している。
それによると、捜査機関での「レコグニション」の利用は、あくまで補助的なものであり、ＡＩのみによる人物特定は行われていない、と説明。
さらに、米自由人権協会は顔識別の精度をデフォルトの８０％で行っているが、このような用途では精度設定を９５％に上げた上で使うことを推奨している、としている。
ただ、「レコグニション」の説明サイトでは、従業員の顔とＩＤカードとの照合に使うケースで「８０％」という精度レベルを例示していた（現在は「９９％」という例示に修正してある）。
精度にまだまだ改善の余地がありそうですね、あくまで補助的な使用をする程度に
とどまり、決定権を与えるのには早いのかもしれませんね。
次回の更新も楽しみにしていただけますと幸いです！