【　隠しコマンドを聞き取り勝手に買い物？　】

米カリフォルニア大学バークレー校(UCバークレー)と米ジョージタウン大学の学生および研究者らは2年前から、これらAIアシスタントに人間の耳には聞き取れない隠しコマンドを送り、操作する実験を行なってきました。2016年に公開した実験では、大音量のスピーカーから流れるホワイトノイズやYouTubeの動画にコマンドを潜ませ、実際にスマートフォンを機内モードにしたり、Webサイトを開いたりしています。

そしてこの5月に公開された研究論文では、コマンドを音楽や音声に直接埋め込むという、さらに高度な実験の結果が報告されています。人の耳には単に音楽が流れている、または人が普通に会話しているようにしか聞こえないにも関わらず、Amazon Echoは隠されたコマンドを聞き取り、勝手にショッピングリストに商品を追加したのです。

商品をオンラインで購入する、鍵を開ける、銀行口座から送金するといった行為も可能となる可能性がある、と論文では指摘されています。

これはあくまで研究所内での実験ではありますが、論文の著者の1人であるUCバークレーの博士課程で学ぶニコラス・カーリニ氏は「悪意を持った人々がすでに実行している可能性がある」と述べています。

【　企業はセキュリティ対策をしているが…　】

スマートスピーカーを提供する企業もこの点は認識しており、Appleは自社のHomePodについて、「ドアを開ける」などのコマンドは使えないよう設計していると説明しています。またユーザー以外の他人が勝手に音声操作できないよう、iPhoneやiPadはロック解除をしないとSiriが使えない設定になっています。

ただし現状では「音声認識システムは簡単にだまされる」と、New York Timesは警告しています。