imaginima via Getty Images
imaginima via Getty Images

米国では失業保険を不正受給しようとする詐欺行為を防止用に申請者が本人かどうかを確認するための顔認識システムを導入しています。ところが、この技術が本人を正しく認識できないケースが発生しており、失業手当の支給を拒否された人々からは不満の声があがっています。AIによる顔認識技術は、一般的に女性や有色人種を見分ける能力が白人男性に比べると劣ると言われています。

問題のケースでは、失業手当を申請した人がID.meにおける顔認識で本人確認ができなかったために手続きを保留され、問題解消のためにID.meにコンタクトを取ろうとしても数日~数週間も待たされたりしているとのこと。

SNSではID.meへの不満や苦情の投稿が数多く見受けられます。カリフォルニア州では昨年の大晦日、すでに失業手当を受け取っていた140万人のアカウントが突然無効化される現象が発生。再度ID.meで顔認識を通さなければ手当を受給できなくなりました。この手続きにも数週間待たされる人が相次ぎ、その間生活費のやりくりを強いられました。このような問題は各地で起こっており、コロラド、フロリダ、ノースカロライナ、ペンシルバニア、アリゾナ州でもID.me導入前は問題なく手当を受給できていた人が、ID.meに顔認識で弾かれ、長くて数か月も手当を受け取れない状態に置かれた例が報告されています。

ViceメディアのテクノロジーニュースサイトMotherboardはID.meのCEOブレイク・ホール氏への取材で、ホール氏がID.meの技術は「99.9%の有効性」があると述べたと伝えています。ホール氏によると、ID.meの顔認識は大量の顔写真サンプルから調べたい顔を探すのではなく、運転免許証などに表示される顔写真との比較を行うようになっているとのこと。また肌の色はこの顔認識には影響しないとのことです。

そのため、ホール氏は「顔認証の失敗は技術の問題ではなく、例えば、申請に使う写真の顔が一部見切れているような写真を使って認識に失敗している」と主張「ID.meで本人確認ができなかった対象者はいません」とまで述べています。

しかし実際に認識が通らなかった人にとっては、この説明は納得いくものではないでしょう。ある人は指示されたとおりに手続きをしたものの、認証拒否が3度も続き、何の説明もなくシステムから閉め出されてしまったと訴えています。どうしたものかと思いID.meのサポートチャットにコンタクトを取るも返答はなく、州の担当者に問い合わせてもID.meに確認せよの一点張りで3週間も放置されました。そして堪忍袋の緒が切れてSNSでID.meへの不満をぶちまけたところ、すぐに先方から連絡が来て数日後に身元確認が通ったと、この人は述べています。

Motherboardによると、ホール氏はID.meのシステムを売り込むため、米国の失業手当の不正受給の額を例に挙げて宣伝しています。しかしホール氏の言うその額は、この2月には1000億ドルと言っていたのが、その数週後には2000億ドルと述べられ、翌月には3000億ドルと主張するようになっていたとのこと。Axiosによる最新の報告では4000億ドルものお金が失業手当詐欺的に受給されているとID.meが述べていると伝えています。ホール氏はこの数値の変化について「データポイントが増えたためだ」と説明しています。しかし、この主張のどれに対しても、額をどうやって算出したかについては返答していません。

米労働省の報告では、2020年3月から10月の間に、不正の可能性がある失業手当の不正受給で摘発した額はを56億ドルとされています。より最近のデータでは損失額が実際にはもっと大きいことが示唆されていますが、省は 「数百億ドル」と見積もっています。

ID.meのテクノロジーで何が起こっているにせよ、この事件は、連邦政府と州政府が顔認識を制限したいと望んでいる理由のひとつを浮き彫りにしているようです。プライバシーやセキュリティに問題がなくとも、また「99.9%の精度」とうたわれるシステムであっても、多くの人々が本来得られるはずのサービスを拒否される可能性があるということです。本当に99.9%の精度でこれならば、特に市民の生活に関わる手続きを行うシステムには、今後はさらに高い精度を導入前に求めなくてはならなくなりそうです。

Source:Motherboard