Sponsored Contents

Securityの最新記事

Image credit:
Save

Amazonの顔認識システム、米議員28名を犯罪者として「検出」。人種によって認識にバラつき

安かろう悪かろう…で済まされない

Munenori Taniguchi, @mu_taniguchi
2018年7月27日, 午後07:40 in Security
66シェア
11
55
0

連載

注目記事

折りたたみスマホ Galaxy Fold レビュー。ガチ勢専用の高コスト可変機
12

折りたたみスマホ Galaxy Fold レビュー。ガチ勢専用の高コスト可変機

Ittousai, 10月11日
View
iPhone 11 / Pro / Maxレビュー。「11以降」と旧型を分ける超広角カメラ標準化とAR・機械学習の関係

iPhone 11 / Pro / Maxレビュー。「11以降」と旧型を分ける超広角カメラ標準化とAR・機械学習の関係

Ittousai, 9月20日
View
アメリカ自由人権協会(ACLU)が、Amazonの顔認識システムRekognitionを使って2万5000人分の犯罪者および米国議会上下両院の全議員の顔写真をスキャンしたところ、28人もの議員が犯罪者の顔に一致する結果を得たと発表しました。このテストにかかった費用は12.33ドル(約1370円)。

犯罪者に一致する顔として検出された28議員のうち11人(約39%)が有色人種。これは議員全体のなかの有色人種の割合である約20%に比べて倍近い数値ということで、他の多くの顔認識システムと同様Amazonの顔認識システムが白人以外の認識に長けていないことが浮き彫りとなりました。

Rekognitionについてはすでに問題提起がなされており、ACLUやその他の公民権団体などが5月以降、Amazonに法執行機関への顔認識システムの導入や技術売却を停止するよう求めています。

しかし、今回の実験結果について米AmazonはACLUが実験のために使用した80%(デフォルト値)の信頼度強度設定が正しくないと反論しています。米Amazonは「ホットドッグや椅子、動物、 SNS写真などを含む雑多な写真ならともかく合理的なレベルで個人を特定しようとする場合、ACLUの実験のような80%の強度設定は適切ではない」として、95%以上の信頼度設定を使うよう勧めました。

ACLUで技術関係の問題を担当し、北部カリフォルニアの市民権運動にも携わるJacob Snow氏は「我々が行なった試験は顔認識が政府機関や法的執行機関での使用に十分な安全性を持っていないことを示している」、そして「顔認識の使用は有色人種や移民、または活動家らのコミュニティを監視する差別的な監視体制を築き上げてしまうことになるだろう」と語りました。

かつて同様の懸念がわきおこったとき、Amazonは頑なにそれを懸念とは認めませんでした。そしてもし顧客が誰かを差別するようなことがあれば、Amazon Web Services(AWS)が提供する機能へのアクセスを凍結するだろうとの方針を示しはしたものの、それ以外の対応については回答していません。

すでにいくつかの法的執行機関がRekognitionを導入しているとされるものの、例えば同様の顔認識技術を運用している英国の警察では、あまりに誤認識が多いため手動で誤りがないかを確認している状態と伝えられます。

ある日突然、どこかの監視カメラに映った自分の顔が凶悪犯罪者として誤検出されたりすれば、その後の生活がどうなってしまうのかは想像もできません。安価で手軽なのはわかるものの、ちゃんと使えるかどうかは導入するほうもしっかりと確認してからでお願いしたいところです。ちなみに、フロリダ州オーランドの警察はRekognitionをテストをしていたものの、テストの期限が切れた後は継続しなかったのこと。




「TechCrunch Tokyo 2019」11月14日、15日に開催



広告掲載についてのお問い合わせはad-sales@oath.com までお知らせください。各種データなどはこちらのメディアガイドをあわせてご覧ください。

66シェア
11
55
0

Sponsored Contents