【no.266】判別AIも出てきた米国・フェイクニュース研究最前線 —— ただ「フェイク」と呼ぶ時代は終わる

判別AIも出てきた米国・フェイクニュース研究最前線 —— ただ「フェイク」と呼ぶ時代は終わる

パロアルトインサイトCEO・AIビジネスデザイナーの石角友愛です。今回紹介するのは、「アメリカのトップIT企業がどのようにフェイクニュース規制に取り組んでいるか」です。

2018年の沖縄県知事選挙で、フェイクニュースを見た学生がアンケート回答者全体の1割ほどいたというニュースが日本でも先日流れ、今年はより一層、日本でも「フェイクニュースとはなんなのか?どう私たちは向き合えばよいのか?」が問われる年になるのではないでしょうか。

フェイクニュースに関して話すときに一番難しいのが、何をもって「フェイク」とみなすのかの定義づけです。First Draft Newsという非営利プロジェクトの代表のクレア・ワードル博士によると、自分にとって都合の悪い情報を全て「フェイクニュース」と一括りにしてしまっている使用例も背景にあり、「フェイクニュース」という言葉は使わずに、以下の3つに分類されるべきだと言います。

  1. Mis-information(ミスインフォメーション。悪い意図がなく拡散する偽りの情報)
  2. Dis-Information (ディスインフォメーション。悪い意図があり意図的に拡散される偽りの情報)
  3. Mal-Information(マルインフォメーション。悪い意図があり意図的に拡散される真の情報)

例えば、フェイクニュースの拡散で批判の対象になっているFacebookでは「フェイクニュース」ではなく「フォルスニュース(False News、偽りのニュース)」という言葉を使い、あらゆるシグナルからフォルスニュースと判断されるニュースを拡散するサイトの広告を止めています。その検知にかなりの人的資源と機械学習の労力を投じているとのことです(担当チームを2倍に拡大したとのこと)。

Facebookでは以下のようなマトリックスを作り、それぞれの線引きが難しいものの、赤い箇所(False News)の摘出にまずは全力を注ぐ、と言っています。

False News

月間アクティブユーザー数が20億人を超えるため、全ての情報1つずつをカテゴライズするのは不可能です。そのため機械学習アルゴリズムを開発し、パターン検知をしています。そして、何をもって偽りと判断するかの基準には、第三者専門機関のチェック、ユーザーからのフィードバックなども使い、複合的な判断をしています。それでもなお、次から次に出てくる「偽り」の検知にはなかなか追いつかない、いたちごっこのような状態になってしまうことも考えられます。

そこでFacebookとは違うアプローチを採っているのがウーバーです。ウーバーの最先端技術研究チームの研究員の一人であるマイク・タミアー博士はバークレー大学でデータサイエンスを教えている講師でもありますが、マイク氏は面白い視点でフェイクニュースを定義付けています。

マイク氏によると、「何が偽りかどうか」より、「感情を無駄に引き起こす言葉が入っているかどうか」で、ジャーナリズムとセンセーショナリズム(扇動主義)の線引きをした、ということです。心理学の研究で、「感情的になればなるほど、人は認知力が反比例して下がってしまう」というものがあり、そこから、無駄に読者の感情を駆り立てる記事は、ジャーナリズムではなくセンセーショナリズムだと定義づけをした、とあるセミナーでマイク氏が語っていました。