【no.631】AIに対する誤解から何が起こっているのか–今考えるべきこと

AIに対する誤解から何が起こっているのか–今考えるべきこと

18世紀のハンガリーの発明家であるWolfgang von Kempelen氏は、それまで誰も見たことがないような、チェスを指す能力を持つからくり人形を生み出した。この「機械仕掛けのトルコ人(Mechanical Turk)」と名付けられたオートマトンは、人間を相手にチェスを指すことができる人形だった。その人形が指すチェスは強く、1809年には、当時ウィーンに出征中だった、かのナポレオン・ボナパルトを負かしたこともある。

ただし最後には、von Kemplen氏の発明は手の込んだいかさまだったことが明らかになる。その機械の中には、人間のチェスの達人が隠れており、その人物が差し手を決めていたのだった。この人形は19世紀半ばに失われてしまったが、発明から数百年経った今、その物語は現在の人工知能(AI)が置かれた状況を表す絶好のメタファーになっている。

世間には、AIには主体性(agency)があるというイメージがある。AIが気候変動を解決する、スマートシティを構築する、新薬を発見するという話は聞くが、そうした偉業を達成しているのは、実際にはAIシステムを使う人間のエンジニアだという話を聞くことは少ないかもしれない。von Kempelen氏が作った独創的なからくり人形の中に、人間のチェスの達人が隠れていたように、エンジニアやプログラマーやソフトウェア開発者の存在も、AIアルゴリズムの影に隠れてしまっている。

ハンガリーの発明家によるからくり人形の逸話がこの問題について考える上で便利であることは、Amazonのサービスの1つに、その名前が使われていることからも分かるだろう(「Amazon Prime」や「Amazonフレッシュ」ほどは有名ではないにせよ)。「Amazon Mechanical Turk」は、AIシステムに入力する巨大なデータセットにラベリングを行うというような退屈な仕事を、何百万人ものリモートで働く「ターカー(Turker)」にクラウドソーシングするサービスだ。

Mozillaのフェロー兼テクノロジストであるDaniel Leufer氏は、「驚くべきことに、AmazonのMechanical Turkがどんなサービスかについてあらためて気づいた人のツイートを、4カ月に1度くらいは見かける」と話す。「Amazonが、AIの背後で人間が活動していることを覆い隠すように設計されたプラットフォームを、『Mechanical Turk』と呼んでいるのは素晴らしい。何をしようとしているかを隠すつもりもないのだ」