夫婦のプライベートな会話を録音し送信 アマゾンのAI「アレクサ」
米西部オレゴン州のある夫婦は、アマゾンの人工知能（AI）「アレクサ」が搭載されたスピーカー「エコー」が自分たちのプライベートな会話を聞いているんじゃないかと冗談を言い合っていた。
それが急に冗談でなくなったのは、アレクサが実際に会話を録音していて、夫婦の連絡先のリストから無作為に選ばれたと思われる人々に送信されていたと分かったときだ。
最初にこれを報じた米ABCテレビ系列の地方局KIRO7によると、録音を送られて当惑した人物から「あなたのアレクサの電源を落としなさい。今すぐに！」と警告されたという。
なぜ起きたのかについて、アマゾンは釈明しているが、その前にまず、妻のダニエルさんがABCの記者に語った、ちょっと怖くなるような出来事の経緯について紹介しよう。
きっかけは、ダニエルさんの夫の部下からかかってきた電話だった。
「私たちの家の中で録音された音声ファイルが送られてきたと、彼が言い出したんです」とダニエルさんは話す。
「当初、私の夫は『そんなことはない！』と言っていましたが、（録音を受信した人は）『あなたは座って、堅木張りの床についてしゃべってましたよね』と。それで私たちは、『なんてことだ。本当に私たちの話を聞いたんだ』となったわけです」
ちょっと気味が悪い話ではないだろうか。今回は堅木張りの床の話で済んだが、今度は親密な愛のむつ言かもしれない。
なので、筆者はアマゾン社になぜこのようなことが起きてしまったのか問い合わせた。広報担当者とのやりとりは以下の通りだ。
「エコーは背景で聞こえてきた『アレクサ』に似た音を感知し起動しました」
なるほど……
「そして、続いて聞こえてきた会話が『メッセージを送る』という指示だと認識しました」
それはまずい……
「その時点でアレクサは音声で、『誰あてですか？』という質問をしています。そこで背景に聞こえてきた会話が顧客の連絡先リストにあった名前だと解釈しました」
ちょっと信じがたいけど、まあいい……
「そこでアレクサは音声で、『連絡先ですよね？』と質問し、背景に聞こえた会話を『そうだ』と言ったと解釈しました」
おかしな話になってきたぞ。
「一連の出来事はあり得ないように思えるかもしれませんが……」
言われなくても分かっている。
「……このような事例をさらに予防するための選択肢を検討しています」
すぐ一つの選択肢を思い付いた。
証明はできないものの、ダニエルさんはアレクサが作動していると警告する音声は聞こえてこなかったとABCに語っている。
一つアドバイスできるとしたら、アレクサの声はかなり小さいと感じられる可能性があることだ。特に堅木張りの床などについて熱心に話しているときなどはそうだろう。
音声操作のデバイスに伴う危険性にあらためて気付かされる事例だった。アレクサのように所有者にフレンドリーで、親密になろうとするデバイスでは特にそうだ。
AIスピーカーが誤ってテレビの声に反応してしまったり、という事はありましたが、
こんな事になるとは偶然が重なったようですね。。使う側にとっては、こういう事もあるというのを知った上で使いこなすのが必要そうです。
次回の更新も楽しみにして頂けますと幸いです！