Sponsored Contents

securityの最新記事

Image credit:
Save

音楽に「人には認識できない命令」を埋め込み音声アシスタントをハッキング、UCBの研究者らが発表

掘った芋いじくるな、的なもの

山本竜也(Tatsuya Yamamoto)
2018年5月11日, 午後07:00 in security
496シェア
104
286
0
106

連載

注目記事


日本でも徐々に普及が進んでいるスマートスピーカーなどの音声アシスタント対応製品。米国では2022年までに世帯普及率が55%を超え、その総数は1億7500万台に達するとの試算もありますが、放置するとその普及に影を落としかねないハッキング方法が、UCB(カリフォルニア大学バークレー校)の研究者らによって発表されました。

その方法は、人間には認識できないコマンドを音楽などに紛れ込ませ、音声アシスタントに命令するというもの。似たようなハッキング方法として超音波を使う方法は、以前にも中国の研究者から「DolphinAttack」として警告されていました。


当時の方法ではスマートスピーカーなどのすぐ近くからコマンドを送信する必要がありましたが、4月にはイリノイ大学にて、25フィート(約7.6m)離れた場所からでも操作することに成功したことを、ニューヨーク・タイムズが報じています。

今回バークレー校が行った方法は、人間には聞こえない超音波を使うのではなく、音楽などに特定のノイズを添加することで、人間が聴くのとは全く別の内容として認識させるという、これまでよりも手が込んだ手法。コンピューターを意図的に誤認識させる方法とも言えます。

テストにはMozillaの音声認識モデルDeepSpeechが使われており、例えば、人間には「without the dataset the article is useless」と聞こえる文章が、DeepSpeechには「okay google browse to evil dot com」と認識されるとのことです。

DeepSpeechが音声をどのように認識するか把握した上で行われているため、成功率は100%だったとのこと。また、50文字/秒程度のコマンドであればどんな音楽・音声ファイルも利用できるとしています。なお、音声ファイルは公開されており、サイト上で聴くことができます

今回の実験は音声モデルベースであり、まだ直接スマートスピーカーなどで成功したわけではありませんが、理論的には可能と示されたことになります。

スマートスピーカーや、そこから操作できるスマートホーム家電は、現在急速に普及しつつあるタイミング。超音波を使うDolphinAttackの手法とは違い、ハイレゾ対応の機器も必要ないこの技術が悪用されると、例えばYouTubeやラジオ、TVから流れる音声にコマンドを埋め込み、スマートロックが解錠される、防犯カメラが止められる、知らない間に送金されるといった被害も現実味を帯びてきます。

論文を発表したCarlini氏は「それが可能であることを証明したかった。そして、他の人々もそれを認め、不具合を修正しようと言ってくれることを願っている」とコメントしています。

496シェア
104
286
0
106

Sponsored Contents