人間の耳には聞こえない「隠しコマンド」がAIを操る？音声AIへの攻撃リスクが判明

「人間の耳には全く聞こえない音が、あなたのスマートスピーカーを勝手に操作しているかもしれません」。IEEE Spectrumが報じた最新の研究によると、音声AIシステムには、人間が感知できない周波数の音を使って不正な操作を実行させる「オーディオ攻撃」への脆弱性が存在することが明らかになりました。

この攻撃手法は、BGMや環境音の中にAIだけが認識できる特殊な信号を隠すことで行われます。実験では、ユーザーが気づかないうちにAIがスマートロックを解錠したり、特定のウェブサイトへアクセスしたりする動作が確認されました。音声操作が生活の一部となる中で、この「目に見えない、聞こえない脅威」への対策は、将来のAIセキュリティにおいて最優先の課題となりそうです。