Sponsored Contents

Transportationの最新記事

Image credit:
Save

「標識ハック」が自動運転AIに混乱をもたらす研究結果。見た目わずかな差がまったく違う意味に

停止や右折がなぜか速度制限に

Munenori Taniguchi
2017年8月7日, 午後05:15 in Transportation
433シェア
142
204
0
87

連載

注目記事

IQOS、gloより5倍お得な加熱式タバコ「ヴェポライザー」で知っておきたいこと使い方やメンテ術解説(世永玲生)

IQOS、gloより5倍お得な加熱式タバコ「ヴェポライザー」で知っておきたいこと使い方やメンテ術解説(世永玲生)

View

人気記事


ワシントン大学やミシガン大学からなる研究チームが、いとも簡単に自動運転車のAIを混乱させる方法を発見しました。たとえば既存の停止標識にいくつかのステッカーを貼るだけで、自動運転AIはそれを速度制限の標識に誤認識するとのこと。

自動運転車は、LIDARや超音波といった物体検出センサーに加え、カメラによるイメージなど用いた情報分類用センサーからの入力をAIが捌く格好でその動作を実現します。そして、主に道路標識など交通法規に関する情報はイメージセンサー(カメラ)からの画像認識によって処理されます。

ところが、ワシントン大学の研究者は、この道路標識にほんの少しだけ変化を与えるだけで、簡単にAIを騙せることがわかったと報告しました。

これまでにも、標識の見た目をいじることでAIを騙せることはわかっていました。しかしそれは人間の目にも明らかな変更を加えるもので、誰かが見つければすぐに修正される類の変更でした。ところが、Kohnoの研究では、AIを混乱させるには標識にほんのすこし変更を加えるだけで、まったく違う標識に見間違えることがわかりました。

上の画像では、STOPの文字の上下に「LOVE/HATE」と読めるドットを配置しただけで、自動運転用AIがなぜか45mphの速度制限に読み間違えたとのこと。これは自動運転車の普及を測る上ではかなり厄介な問題です。誰かがいたずらで道路標識をいじったとしたらそれだけで自動運転車は混乱して事故を引き起こすかもしれません。
▲右折標識も微妙な変更でやはり速度制限に認識

チームは、考えられる対策として、イメージとして取り込んだ標識の判定に、その時点まで認識してきた標識との前後関係を考慮させることを提案しています。つまり、ついさっきまで一般道を走行していたのに突然、最高速度が70~100km/h以上になるようなことがあれば、そこが本当に高速道路かどうか確認させたり、実際に高速道路を走行しているなら、そこに停止標識が出てきたらおかしいと疑わせる処理を加えれば誤認識を減らせるとのこと。

もっとアナログな対策としては、標識に粘着物がつきにくい加工を施したり、人の手が届かない位置に移動するのも有効な対策となります。またナビゲーションの地図情報からも制限速度などの情報を得られるはずです。

自動運転の実用化はまだまだ先のことと思われるかもしれないものの、たとえばテスラの半自動運転機能Autopilotモードは、すでにイメージセンサーの画像認識を運転の処理に用いています。現在ではセンサーを変更しているものの、以前のイメージセンサーは巨大なトレーラーを正しく認識できずに死亡事故を引き起こしました。

ちなみに日本の道路交通法では、道路標識に何かを貼り付けたりした場合は「信号機等の移転、損壊」とみなされます。2015年には道路標識の図案を僅かに変えるようなステッカーを「芸術目的」で貼り付けた女性が逮捕される事例がありました。忠告するまでもありませんが、道路標識には決してシールを貼ったりガムをなすりつけたりしないでください。

[Images : University of Washington]

433シェア
142
204
0
87

Sponsored Contents