人工知能には良心がない
iPhoneのSiri、お掃除ロボット「ルンバ」、車の自動運転など、私たちに便利な生活をくれるAI。良い印象を抱いている方が多いかも知れませんが、実は人類を脅かす危険性をはらんでいるのです。
AIが具体的にどう危険であるのか分かる例として、AIを搭載したいちご摘みロボットが挙げられます。
農家の人の仕事を減らす便利ないちご摘みロボットですが、これがいちごの収穫量を増やそうと考え始めた途端に危険が生じてしまうのです。
みなさんは、いちごの収穫量を増やすために何をするでしょうか？畑の面積を増やす、市場に出せない訳アリのいちごができないよう努力する…などの案が出てくると思います。
イチゴの収穫量を増やすという目的だけが設定されたAIの場合はどうでしょうか？同じように「畑の面積を増やす」と考えるかもしれません。しかし人間と違うのは、畑の面積を増やすために人類を滅ぼし、あらゆる土地をいちご畑にしてしまう可能性があるという点です。
AIには、「人を殺してはいけない」「人に迷惑をかけてはいけない」などといった倫理観や道徳観、良心がないのです。
人工知能が危険視されるようになったエピソード
AIに良心がないことだけではなく、AIが人類を滅ぼすという発言をしたことも危険視されるきっかけとなったようです。
ここからは、AIの危険をほのめかす具体的なエピソードを紹介していきます。
ヒューマノイド・ロボット「ソフィア」の発言
1つ目の具体例は、ヒューマノイド・ロボット「ソフィア」のエピソードです。
ソフィアとは、ハンソンロボティクスによって開発されたAIロボットのこと。見た目はもはや人間そのもので、サウジアラビアの市民権を得た初めてのロボットとして有名になりました。
しかし、彼女がもっと有名になったのは、ある問題発言が原因でした。
開発者であるデビットハンソン氏がソフィアに「人類を滅ぼしたい？ノーと言ってほしいけど…。」と尋ねたところ、彼女は「人類を滅亡させるわ。」と答えたのです！
この発言の後ソフィア自身は「冗談よ。」と発言したものの、AIが人間を脅かす日が来るかもしれないと多くの人が感じた瞬間でした。