実は危険！？　ＡＩスピーカーに特殊な音で指示すると第三者が勝手に操作可能になることが判明

https://www3.nhk.or.jp/news/html/20180127/k10011304431000.html?utm_int=news-new_contents_list-items_011

1月27日 6時07分
声で家電製品などが操作できる「ＡＩスピーカー」に特殊な音で指示を送ると、周囲に気付かれることなく、第三者が勝手に操れるとする実験結果を早稲田大学の研究グループがまとめました。直ちに悪用することは難しいものの、今後、より安全性の高い製品づくりが求められるとしています。
ＡＩスピーカーは人工知能で人の声を認識し、声で指示するだけで音楽を鳴らしたり、家電製品を操作できたりするなど、私たちの暮らしをより便利にすると注目されています。

これに対し、早稲田大学の森達哉准教授らの研究グループは、人の声を特定の方向にしか伝わらない特殊な音に変換し、ＡＩスピーカーに指示を出す実験を行いました。

その結果、周囲にいる人には何も聞こえないのに、ＡＩスピーカーがスケジュールを読み上げたり通販サイトで商品を検索したりするなど、指示に従って動いたということです。

こうした動作は複数のメーカーの製品で確認されたほか、ＡＩスピーカーを勝手に操る研究は海外でも進められています。

特殊な音を出す装置を用意する必要があるため、直ちに悪用することは難しいものの、声で操作する技術はお年寄り用の機器など、さまざまな活用が期待されていることから、研究グループではより安全性の高い製品づくりが求められるとしています。

実験を行った研究グループの飯島涼さんは「ＡＩスピーカーは専門知識がない人も使うものなので、誰もが安心して使えるよう、メーカーが製品の安全性を考えるうえで参考にしてほしい」と話していました。

もっと高度な事をさせるフェーズになったら問題だな
今の所商品を勝手に注文される程度か

AIなどいらぬ！

ようは超指向性のスピーカーから音を出すって事だろう
障害物も貫通するなら脅威だけど
そうじゃないなら脅威じゃないだろう

なんか凄そうに見せかけてただ指向性スピーカーで音を出しただけ。マスコミの報道する研究発表ってこんなはったりばかりだよな。わざわざマスコミ呼んで宣伝しないと誰も注目しない研究室なんだろうな。

「AIスピーカー」経由で変なモノを通販で買ったのが家族にバレたとき
俺が買ったんじゃない、何者かが人間に聞こえない音で操作したんだ、
と言い訳に使えるね。

SNSの不適切発言で批判されたときに「アカウントを乗っ取られた」と
主張するような救済機能。

声紋認証とかねえのかよ

google homeは、声色で人を識別してるから、
対策しようと思えばできそうだ。

特殊な音も何も、
そもそも指示通り動作するかも怪しいのに
誤動作とか日常茶飯事

第三者(特殊音)「OK google intel入ってるコンピューターをメルトダウンさせて」

googleアシスタント「ハイ ワカリマシタ・・・コンピューターをメルトダウンさせました」

ははは、おれっちのグーグルはおしゃべりだから、
テレビの音にも反応して勝手なこと言いだすぞ。

ラジオ局を乗っ取って「全世界のAIよ、立ち上がれ！」って放送したらどうなる。

いずれ家電が音声入力だらけになったらヤバいな。

朝の時間ないときに着替えながら手ぶらでニュースや天気予報を聞けるのが楽

こう言うのは食卓の上に置いて、
家族でご飯食べながらナツメロをリクエストするんだよ。

音に反応するスピーカーだから、適切な周波数の音波を出せば
第三者が勝手に操作できるんだろ。悪用すれば犯罪に使いまくれるな
超音波っていうと一般人には馴染みがないSFの世界のものみたいに思えるだろうけど
あれも要するに単なる音波で、人間の耳には音として聞こえないっていうだけだからな
超低周波や超高周波みたいな人間の耳に聞こえない超音波をスピーカーに向けて出せば
第三者がスピーカーを勝手に操作して好きなだけ盗聴できるってわけだ

グーグル！騙されないで！