MS＆ADインシュアランスグループホールディングス傘下の三井住友海上火災保険とあいおいニッセイ同和損害保険は、人工知能（AI）が自動車事故の車両修理の見積もりを点検するシステムを今年度内に全国で導入する。自動車の損傷部分の画像などをAIが自動解析することで、見積もりなどの点検作業を効率化。保険金請求から保険金支払いまでの期間を従来の約1カ月から2週間程度に短縮する。
AIを活用するのは、事故全体の約6割を占める軽微な傷やへこみなどの損傷の見積もりが対象となる。修理工場から保険会社に送られてくる損傷部分の画像や自動車修理の見積書を、両社がこれまで蓄積した事故データや修理実績などを基にAIが解析。保険会社の専門社員が数日かけて修理工場と交渉しながら進めていた修理の妥当性を点検する作業を、AIが代替することで数分に短縮させられるという。今夏から一部地域で導入を始め、順次、導入地域を広げていく。
全国導入が完了すれば、両社合算で年間約36万時間の業務時間の削減が可能になる。この空いた時間を見積もりが困難な難しい事故の対応に充てるなどして作業効率を改善する。
21世紀以降に登場した、「企業のあらゆる問題を解決する万能薬」として喧伝された正体が曖昧なさまざまな技術と同じく、人工知能（AI）にも多くの期待が寄せられている（実際には、それらの期待を掲げているのは人工知能を売り込もうとする人々だが）。しかし、公共部門か民間部門かを問わず、AIの導入にはいくつかの大きな障害がある。それらの障害について理解することは、AIの限界と可能性、そして開拓期にあるエンタープライズソリューションにつきもののリスクを理解する上で重要だ。
AI
提供：Getty Images/iStockphoto
コンサルティング企業のBooz Allen Hamiltonには、予知保全のためにAIを導入した米陸軍や、オピオイド危機の分析と対処にAIを導入した米食品医薬局（FDA）の支援を行った実績があり、リスクを嫌う大組織が、AIを有意義な形で導入しようとした際に何が起きるかを熟知している。
この記事では、AIを導入する際にどこでつまずくのか、どんな障害があるのかを知るために、Booz AllenのAI戦略およびトレーニング担当ディレクターであるKathleen Featheringham氏から話を聞いた。同氏は、AIの導入には5つの大きな障害があり、これらは、公共部門と民間部門の両方に当てはまると述べている。
注：以下の内容は、インタビューで尋ねた質問に対する回答をまとめたものだが、この記事の形式に合わせて、順序や言い回しは多少修正されている。以下の記述は、すべてFeatheringham氏の発言に基づくものだ。鋭い洞察を披露してくれた同氏に感謝する。
1．ガバナンスと倫理
最初の問題は、AIのガバナンス（あるいはその欠如）だ。あらゆる有力技術に言えることだが、AIの導入にも、その機能と倫理原則に関するガバナンスの仕組みが必要になる。
AIを用いたソリューションを作っているのは、不完全な人間だ。これまでにも、もともと意図していたわけではないが、使用されたデータが偏っていたために、差別的な結果を出力するモデルの例がいくつも明らかになっている。そうした問題は、データセットの偏り（例えばデータの除外やサンプリングの過程で生じた偏り）や、人間が無意識に持っていた偏見によって発生する。そうした事例が出てくれば、当然ながらAIに対する信頼は損なわれ、導入は遅れる。
解決策は
自由、倫理、プライバシーと、効率やその他のAIがもたらすメリットのバランスを取る必要がある。これはAIの基礎であり、それを実現するには、組織のあらゆる階層の人々が、ガバナンス構造を作る上で自分が果たす役割を理解していなければならない。このガバナンスの仕組みには、設計と開発に関する倫理原則が含まれているべきであり、定期的に原則の見直しを行う「フィードバックループ」も備えていることが望ましい。
page: 2
AIのガバナンスフレームワークを構築する際には、以下の3つのポイントを考慮する必要がある。1．開発の初期段階から倫理を考慮に入れること。2．監査証跡をしっかりと残すことができる、堅牢で、透明性が高く、説明可能性を備えたシステムを構築すること。その際、学習が進んだモデルも修正可能であることを前提とする。3．ロールアウトは、明確に文書化されたプロセスに基づいて、健全なガバナンスと監督の下で、慎重に監視しながら進めること。
AIで医療ミスの低減を目指すActiv Surgical、約16億円を調達
外科手術向けの人工知能（AI）システムを開発する新興企業Activ Surgicalは米国時間7月16日、1500万ドル（約16億円）を調達したと発表した。
同社が展開するAIおよび機械学習（ML）プラットフォーム「ActivEdge」は、高度な知見と視覚化をリアルタイムで外科医に提供することを目的とする。同プラットフォームと関連製品は、まず米国市場で提供される予定で、2021年には世界各国での商用化も見込まれる。
AIの判断と人間の外科医の技能を組み合わせることの目標は、医療ミスの低減だ。防止できたはずの外科的なミスは米国で毎年、40万人以上の死亡例を生んでいるとの調査結果もある。Activ Surgicalなどの開発企業は、外科医を支援する目的で開発されたAIおよびMLツールと人間の判断を最良のバランスで結びつけることによって、外科医療の成功率を高めようとしている。
Activ Surgicalのプラットフォームは専用のハードウェアに依存せず、コンピュータービジョン、AI、ロボット光学を組み合わせている。スコープやロボットといった既存の外科システムを活用し、人間よりも正確に組織の視覚化と追跡を実行できるという。
資金調達を主導したARTIS Venturesのプリンシパル、Ameena El-Bibany氏は「Activ Surgicalのプラットフォームと技術は、既存の外科システムとロボットを活用し、外科医には不可能な視覚化を行いガイドすることによって、外科分野を革新することが見込まれる。それにより、外科手術をより安全にし、ミスを減らし、患者の術後を改善できると考えられる」「同社はわずか数年で重要な節目を達成しており、その技術を初期の概念実証から大きく前進させた。2021年には、早期アクセスパートナーと共に最初の市場向け製品をリリースする見込みだ」と述べた。
Activ Surgicalはこれまでに3200万ドル（約34億円）を調達している。今回調達した資金は、ActivEdgeの米国での商用化および欧州展開を加速させるために活用する計画だ。
この記事は海外CBS Interactive発の記事を朝日インタラクティブが日本向けに編集したものです。
日本を代表する企業として世界の注目を集め続けるトヨタ自動車。とりわけその価値観の中核にあるトヨタ生産方式（TPS）は、ハーバードビジネススクールをはじめ多くの経営大学院で教材となるなど、世界に与えた影響は大きい。米国のビジネス最前線でTPSと向き合うキーマン3人に、作家・コンサルタントの佐藤智恵氏が話を聞いた。最初のキーマンはトヨタ・リサーチ・インスティテュート（TRI）最高経営責任者（CEO）としてトヨタの人工知能（AI）開発を束ねるギル・プラット氏。3回目はトヨタウェイとイノベーションとの深いつながりを語る。
＜＜（中）人の能力を高め、心を動かす トヨタが目指すAI
AIにできないこととは
佐藤 日本では「人間の仕事の多くはいずれロボットやAIに取って代わられる。自分の仕事も奪われてしまうのではないか」と不安に思っている人がたくさんいます。AIに「できること」と「できないこと」はそれぞれ何でしょうか。
プラット まずはじめに、現在「AI」と呼ばれている技術やシステムの総称として「アーティフィシャル・インテリジェンス（人工知能）」という言葉が使われていることが誤解を招いていると思います。なぜなら「インテリジェンス」と表現されていると「人間的なもの」を思い浮かべてしまうからです。ところが実際のところ、AIは人間の知能とイコールではありません。
あわせて読みたい
プレゼンテーションするギル・プラット氏（「CES2019」会場）
トヨタのAIトップ 心つかまれた作業着
1階入り口のメインの平台に3列並べて展示する（八重洲ブックセンター本店）
豊田章男氏とは何者か 人間像に迫る
トヨタ・リサーチ・インスティテュートCEO ギル・プラット氏
私たちの脳には大きくわけて2つの機能があります。頭の後ろ半分には世界を知覚する機能、前半分には思考・判断する機能が備わっていて、前側は後ろ側から情報を得て思考・判断します。
AIシステムが優れているのは視覚情報を処理する能力です。つまり私たちの脳の後ろ側の機能と同じような役割を果たすことはできるわけです。もちろんAIは人間と違って疲労を感じることがないですし、その情報処理能力はとても高いといえます。ところが私たちの脳の前側の機能、つまり思考・判断・認知するための機能を果たすことは一切できません。これはまぎれもない真実なのです。
AIシステムができるのはいわゆる「パターン・マッチング」（複数の文字列や図形、ファイルなどを比較し、同一または類似したものであるかどうかを調査すること）です。インプット情報の中にパターンを見いだし、どういうカテゴリーかを分別し、アウトプットすること。これはできます。
ところが思考には、パターン・マッチングをはるかにこえる能力が必要です。たとえば私は今、佐藤さんからの質問に答えていますが、私は質問をただ耳で聞くだけではなく、「この質問の真意は何だろうか」と考え、質問の意味をきちんと理解した上で答えています。ところがAIシステムは真の意味で「理解」することができないのです。
機械はパターンを認識できても思考できない
佐藤 ハーバードビジネススクールの教授は「AIはトヨタウェイ（全世界のトヨタで働く人々が共有すべき価値観や手法）を学べない」と言っていました。これについてはどう考えますか。
プラット 工場での作業の多くは同じ仕事の繰り返しのように見えるため、多くの人々は「これなら機械にでもできるのではないか」と考えてしまいます。ところがほとんどの場合、従業員は人間ならではの認知機能を使い、迅速に判断しながら仕事を行っています。大きな問題が生じればアンドンのひもを引っ張りますが、そこまでいかない小さな誤差については自ら判断して修正しているのです。
人間が賢いのは思考することができるからです。「どうしたら明日もっとうまくできるだろうか」と考えることができるから品質管理活動（QC活動）も行うことができるのです。思考できないAIシステムが、自ら品質を向上させる活動を続けることは不可能です。
これまで多くの自動車メーカーが「賢い人間」を「思考できない機械」に代替させようとしてきました。ところが機械はパターンを認識できても、思考はできません。テスラのCEO、イーロン・マスク氏は「テスラの行き過ぎたオートメーションは間違いだった。もっと正確に言えば、人間の能力を過小評価したのが間違いだった」（参照：https://www.cnbc.com/2018/04/13/elon-musk-admits-humans-are-sometimes-superior-to-robots.html）とおっしゃっていましたが、それはまぎれもない真実だと思います。
トヨタウェイの根底には人間社会や人間の能力に対する深い理解があります。「思考できないAIがトヨタウェイを実践できない」というのは、まさにそのとおりだと思います。
今こそ始める学び特集
ブックコーナー ビジネス書などの書評はこちら
注目記事
特集:新型コロナウイルス、症状や予防法を知る
新型コロナに負けない 「テレワーク」のヒント
人の能力を高め、心を動かす トヨタが目指すAI
トヨタは世界を変えたか AIトップの心つかんだ作業着
AIには何ができないか 求められる人間の知を探る
ネットの情報洪水に溺れない 創造性を高める8の手段
【掲載数64】AIアノテーションカオスマップ2020が公開！
アノテーションAIとは
アノテーションとは、データにタグを付ける作業のことです。機械学習における不可欠な前処理とも言えます。
AIを開発するためには、画像、音声、テキストの他にもさまざまな形式のデータが用いられます。その際に、処理や加工が一切されていないデータを機械学習アルゴリズムに組み込んでも、学習は一向に進みません。
機械学習を進めるためには、データにタグをつけることが必要なのです。タグ付けとはいわば、データに対して意味や注釈をつけるということです。
それにより、機械学習はデータにある特徴や法則を自動的に見つけ出し、未知のデータに対する回答や、これから先のデータ予測などができるようになります。
開発が進むアノテーション関連サービス
近年、アノテーション関連サービスを提供している企業が多数あります。人材を提供するサービスだけではなく、専用ツールを販売する企業が増えてきています。
それにつれてAIの活用が一般的になりつつあります。この機会にアノテーション関連サービスにも目を向けてみてはいかがでしょうか。
モデルの公平性と説明可能性だけでは不十分な理由
人工知能テクノロジーが活用され始めて以来、ハイテク企業はその非倫理的な使用について多くの非難を受けてきた。
その一例として、Alphabet傘下のGoogleは、アフリカ系アメリカ人のスピーチに白人よりも高い「毒性スコア」を割り当てるヘイトスピーチ検出アルゴリズムを作成した、というものがある（※訳註1）。
ワシントン大学の研究者たちは、アルゴリズムによって「攻撃的」または「憎悪的」と判断された数千のツイートのデータベースを分析した結果、黒人向けの英語の方がヘイトスピーチとしてレッテルを貼られる可能性が高いことを発見した。
（※訳註1）ワシントン大学の研究チームが発表した黒人向けの英語に対するAIバイアスの詳細は、同チームによる論文『ヘイトスピーチ識別における人種的バイアスのリスク』を参照のこと。
以上の事例は、AIアルゴリズムから浮上するバイアスの無数の例のひとつだ。当然ながら、これらの問題は多くの注目を集めている。倫理やバイアスに関する会話は、最近のAIに関するトップテーマのひとつとなっている。
産業界のあらゆる組織や関係者たちは、公平性、説明責任、透明性、（運命的）倫理を通じてバイアスを排除するための研究に取り組んでいる。しかし、モデルのアーキテクチャやエンジニアリングだけに焦点を当てた研究では、限られた結果しか得られないことが予想される。では、どのようにしてこの問題に対処すればよいのだろうか？
AIバイアスに対抗するために誤解を解消する
画像出典：UnsplashのMarkus Spiske
AIバイアスの根本原因はモデルにあるわけではないので、それを修正するだけでは不十分である。AIバイアスの是正に関して、どんな対処法がより良い結果をもたらすかを知るためには、まず本当の理由を理解しなければならない。そして、こうしたバイアスに取り組むために現実の世界で何がなされているかについて研究することによって、潜在的な解決策を見つけることもできる。
AIモデルは、過去のデータからパターンを研究して洞察力を得ることによって、学習する。しかし、人間の歴史（と現在の私たち）は完璧とは程遠い。それゆえ、こうしたAIモデルが訓練に使われたデータに潜むバイアスを模倣し、増幅してしまうのは当然のことなのだ。
以上のAIバイアスのメカニズムは誰の目にも明らかだ。それでは私たちがいる現実世界では、このような内在的なバイアスをどのように処理しているのだろうか。
現実世界では、バイアスに対抗するためにバイアスを導入する必要がある。
あるコミュニティや一部の人々が不利益を被る可能性があると感じた場合、私たちは過去の事例だけに基づいて結論を出すことは避けようとする。時には、さらに一歩踏み込んで、そのような不利益を被っているセグメントに機会を提供して、そのセグメントを内包しようとする。こうした行動は、不利益を生む傾向を逆転させるための小さな一歩なのだ。
以上のようなバイアスの是正は、モデルを訓練しながら、まさに私たちが行わなければならないステップである。では、モデルに内在する「学習された」バイアスに対抗するために、人力で是正バイアスを注入するにはどうすればよいのだろうか？以下では、是正バイアスを導入するためのいくつかのステップを示す。
くら寿司が挑む、マグロの｢AI仕入れ｣。新商品｢AIまぐろ｣を実食…プロの目はデジタル伝承できるか？
くら寿司の｢仕入れ｣改革
｢TUNA SCOPE｣のデモ機。既にAIマグロ向けのキハダマグロの仕入れに使い始めている。
｢TUNA SCOPE｣のデモ機。尾の断面を撮影することで、仲買人の経験値を学習したAIが画像認識で判断する。新商品｢極み熟成 AIまぐろ｣向けのキハダマグロの仕入れに使うという。
撮影：伊藤有
｢くら寿司は新たな改革にチャレンジする。新しい仕入れ様式。まずは寿司ネタでもっとも人気のあるマグロからスタートする｣と、会見の中で、くら寿司の田中信取締役副社長は語った。
｢新しい仕入れ様式｣とは、これまで現地まで仲買人などが赴いて判断していたマグロのランク付け判断を、ディープラーニング技術を使ったAIアプリ｢TUNA SCOPE｣で判別する試みだ。同社によると、大手チェーンでの導入は国内初だという。アプリ開発は、電通とそのグループ企業であるISID（電通国際情報サービス）が担当している。
電通がプロジェクトを開始したのはおよそ3年前。AIの開発にあたっては、仲買人が実際に見ているマグロの尾の断面を撮影して、数千枚の学習用データをつくり、そのマグロが実際にどんな等級だったのかを教師データとして用いた。その後、くら寿司の導入が決まった。
くら寿司によると、一人前の仲買人になるには、一般に10年とも言われる下積みが必要。さらに、その｢学び方｣や｢判別方法｣はほぼマニュアル化されておらず、技術の伝承が課題になっている。
TUNA SCOPEを使うことで、プロの｢眼｣の技術をデジタル化し、およそ90%以上の精度でマグロの等級のAランク（最上級）/Bランク（上級）/Mランク（並品）を判別できるという。
くら寿司のTUNA SCOPE
実際のマグロの尾の断面に見立てた写真を撮影すると、判別のデモが体験できる。どれがAランクだかわかりますか？（ちなみに答えは、左からAランク、Bランク、Mランク）。
撮影：伊藤有
くら寿司によると、マグロの仕入れへの利用から取り組んだのは、マグロがメジャーな商品であることに加えて、｢品質チェックがほかの魚種に比べて難しい｣からだと明かす。
水揚げされた生の魚では、目の濁りや体の弾力など、質判断の情報量が多い。一方、マグロは基本、冷凍されたままで、尾の断面の色あいなどだけで、仲買人の経験値を総動員して｢良質さ｣を見分ける。くら寿司の仕入れ担当であっても、その質を見分けるのは簡単なことではないという。
それに加えて、コロナ禍で仕入れの現地に赴くことが制限される現状では、今後、仕入れの質の問題が出てくる、という課題意識がある。
人工知能（AI）開発スタートアップのエクサウィザーズ（東京・港）は、シチズン時計とAIが好みにあった腕時計を選ぶ「AIウオッチレコメンド」サービスを共同開発した。顧客が専用サイトでファッションと腕時計の好みについて質問に答えると、エクサウィザーズが開発したAIが回答を分析。シチズン製の腕時計、約700モデルの中から嗜好にあった商品を自動で選んでくれる。
約700のモデルから顧客の好みにあった腕時計を選んで提案する
画像の拡大
約700のモデルから顧客の好みにあった腕時計を選んで提案する
専用サイトでは様々な雰囲気の写真を提示して、ファッションと腕時計の好みを問う。おすすめの腕時計を提示する際は、その腕時計をすすめる理由も挙げて顧客が納得して商品を選びやすいようにした。
利用者が増えAIが分析したデータの量が増加すると、AIの学習が進んで提案の精度が上がる。今後、すすめた腕時計を購入できる小売店やオンラインストアを紹介するサービスも開発する。
新型コロナウイルスの感染を避けるため来店を控える人が多いことに対応。顧客が来店しなくても自分が欲しい腕時計を選べるようにする。腕時計への興味が薄い消費者層の開拓も目指す。
くら寿司が挑む、マグロの「AI仕入れ」。新商品「AIまぐろ」を実食…プロの目はデジタル伝承できるか？
くら寿司は7月7日、新商品発表イベントのなかで、仕入れ時のマグロの質（ランク）判別にAIを使うアプリ「TUNA SCOPE」の実験的な導入を発表した。
背景には、新型コロナ流行による海外買い付けの困難化に加えて、目利きとなる仲買人の後継者不足問題がある。
くら寿司の「仕入れ」改革
「くら寿司は新たな改革にチャレンジする。新しい仕入れ様式。まずは寿司ネタでもっとも人気のあるマグロからスタートする」と、会見の中で、くら寿司の田中信取締役副社長は語った。
「新しい仕入れ様式」とは、これまで現地まで仲買人などが赴いて判断していたマグロのランク付け判断を、ディープラーニング技術を使ったAIアプリ「TUNA SCOPE」で判別する試みだ。同社によると、大手チェーンでの導入は国内初だという。アプリ開発は、電通とそのグループ企業であるISID（電通国際情報サービス）が担当している。
電通がプロジェクトを開始したのはおよそ3年前。AIの開発にあたっては、仲買人が実際に見ているマグロの尾の断面を撮影して、数千枚の学習用データをつくり、そのマグロが実際にどんな等級だったのかを教師データとして用いた。その後、くら寿司の導入が決まった。
くら寿司によると、一人前の仲買人になるには、一般に10年とも言われる下積みが必要。さらに、その「学び方」や「判別方法」はほぼマニュアル化されておらず、技術の伝承が課題になっている。
TUNA SCOPEを使うことで、プロの「眼」の技術をデジタル化し、およそ90%以上の精度でマグロの等級のAランク（最上級）/Bランク（上級）/Mランク（並品）を判別できるという。
くら寿司によると、マグロの仕入れへの利用から取り組んだのは、マグロがメジャーな商品であることに加えて、「品質チェックがほかの魚種に比べて難しい」からだと明かす。
水揚げされた生の魚では、目の濁りや体の弾力など、質判断の情報量が多い。一方、マグロは基本、冷凍されたままで、尾の断面の色あいなどだけで、仲買人の経験値を総動員して「良質さ」を見分ける。くら寿司の仕入れ担当であっても、その質を見分けるのは簡単なことではないという。
それに加えて、コロナ禍で仕入れの現地に赴くことが制限される現状では、今後、仕入れの質の問題が出てくる、という課題意識がある。
人工知能（ＡＩ）ベンチャーのプリファードネットワークス（ＰＦＮ、東京都千代田区）は６日、プログラミング教育事業に参入したと発表した。学習塾運営のやる気スイッチグループ（同中央区）と提携し、独自開発のカリキュラムを小学生向けに提供する。
「プレイグラム」と名付けられたこのカリキュラムは、米コンピューター教育の指針をもとに、ＰＦＮの技術者が開発した。ゲーム感覚でプログラミングの基礎を学び、そこで得た知識を使って画面上で作品を作り上げていく。最終的には、「テキストコーディング」と呼ばれる実際のプログラミングの現場で使うスキルが習得できる。
８月からやる気スイッチが首都圏で展開する３教室での対面授業とオンラインでの家庭学習にこのカリキュラムを導入する。
ＰＦＮは将来的には、仮想現実（ＡＲ）、機械学習や深層学習（ディープラーニング）といった人工知能の領域もカリキュラムに組み込む考え。
同日のオンラインによる記者発表会で西川徹最高経営責任者（ＣＥＯ）は「ここで学んだ小学生が大人になったときに新たな事業を起せるような優れた人材を生み出していきたい」と語った。