人工知能の第一人者が語る「人工知能が持つ可能性と危険性」とは？

機械学習を用いた人工知能が発展し、さまざまな分野において人工知能の技術が利用されるようになりました。そんな中、ドイツのオンラインニュースメディアSPIEGEL ONLINEが人工知能の第一人者であるワシントン大学教授のペドロ・ドミンゴス氏に対し、「人工知能が持つ可能性と危険性」についてインタビューした内容を公開しています。

Pedro Domingos on the Arms Race in Artificial Intelligence - SPIEGEL ONLINE
http://www.spiegel.de/international/world/pedro-domingos-on-the-arms-race-in-artificial-intelligence-a-1203132.html

ドミンゴス氏は「The Master Algorithm」という初心者向けの人工知能入門書を著した人物です。全世界でベストセラーになった「The Master Algorithm」はあまり難しい数式を使わずに、人工知能とSNS、ビジネスや政治に軍事技術などと関連して、「私たちの生活を人工知能がどのように変えるのか？」について説明しています。この本はMicrosoft創業者のビル・ゲイツ氏が絶賛したほか、中国の最高指導者である習近平氏の本棚にも並んでいたことで一躍有名になりました。

ロシアのプーチン大統領は「AIを制するものが世界を支配する」と学生たちに向けたスピーチで語りましたが、ドミンゴス氏も全面的にプーチン大統領の意見に賛同するとのこと。「AIは未だに各国間の競争が続いている最中ですが、ロシアと中国は人工知能に非常に大きな力を注いでおり、最終的に中国かロシアがAI戦争を勝ち抜くかもしれません」とドミンゴス氏は述べ、習近平氏の本棚に自身の本が飾られていたのは、中国が自国のAI技術を発展させていく姿勢を示したものだろうと考えています。

また、SPIEGEL ONLINEの「なぜAIの支配が世界の支配につながるのでしょう？」という質問に対して、ドミンゴス氏は「AIは知識を得るコストを大幅に削減できるのです」と答え、効果的な機械学習システムを構築することで、100万人の人間が作業することで得られる知識を機械が簡単に入手してくれると説明しました。つまり、ある国がAIを適切に運用することにより、AI後進国に対して大幅な知識のアドバンテージを持つことができるため、AIを支配することが世界の支配につながるとのこと。

習近平氏の本棚に「The Master Algorithm」が並んでいるのを知ったドミンゴス氏は、「興奮すると同時に恐怖を感じた」そうです。中国は「AIドリーム」を掲げて国家が主導してAIの研究を推し進めている最中であり、急速な発展を遂げている中国がAI技術の発達を大幅に推し進めれば、中国国民だけでなく世界中にも恩恵が行き渡るかもしれないとドミンゴス氏は語ります。一方、中国は政府の権威が非常に強い国であり、AIを使って国民をコントロールすることに力を注ぐことは脅威に値するとしています。ドミンゴス氏は「多くの技術と同じく、AIはよいことにも悪いことにも使うことが可能です」と語り、AIは人間の脅威になり得る存在だと述べました。

by Global Panorama

ドミンゴス氏は「The Master Algorithm」の好評を受けて、世界各地のAI研究者や政府関係者と話す機会があったとのこと。その際に、アメリカやアジア、ヨーロッパといった地域ごとにAIに対する感じ方が違っていることに関心を抱いたとドミンゴス氏は話しています。

「アメリカのシリコンバレーが持っているAIのビジョンはリバタリアニズムに影響を受けた楽観的なものでしたが、ヨーロッパの人々からはシリコンバレーと正反対の反応を受けました。ヨーロッパで参加した多くのセッションにおいて、人々はAIに対して悲観的な考えを持っており、『AIによって人道が崩壊する』という意識を持っていたようです」とドミンゴス氏は述べました。アメリカや中国では地方や国レベル、さらに医学研究や交通管理などにおいてAIを活用したアプリケーションが用いられている一方、ヨーロッパではAIがあまり活用されていないとしています。

また、「The Master Algorithm」はロシア語と中国語には翻訳されていますが、ドイツ語やフランス語にはインタビュー時点でも翻訳されていません。そのことをSPIEGEL ONLINEがドミンゴス氏に伝えると、ドミンゴス氏の本の権利に関わるエージェントが「この本はフランスやドイツでは売れないでしょう」と話していたと話しました。

by Frédéric BISSON

ヨーロッパの人々はAIに対して脅威を抱いており、AIを規制しようとする働きはアメリカに先行しているとドミンゴス氏は語ります。ところが、規制が先行することによってAIに対する理解が進まないことを指摘し、「EUのデータ保護規制(GDPR)は『データがどのように使われるのか』、という説明責任を求めていますが、この考えはナンセンスです」としています。ドミンゴス氏はすでに機械学習が役立てられているガンの診断を例に出し、80％の正確性を持ち自分がどのようにデータを利用しているのか説明できるガン診断システムと、90％の正確性を持つが自分がどのようにデータを利用しているのか説明できないガン診断システムが開発された時にどうするかと自問します。そして、EUの理念からすれば80％の正確性を持つシステムを使わざるを得ませんが、本来であれば90％の正確性を持つシステムを選ぶべきであり、もちろんドミンゴス氏自身もそちらを選ぶだろうと語りました。

この点についてドミンゴス氏は「最良のアルゴリズムは人間や動物に触発されたニューラルネットワークであり、非常に複雑な状況から世界を認識する高い正確性を持っています。ところが、そのニューラルネットワークがどのような動作をしているのか、専門家でさえ完全に理解することはできず、私たちはただ『そのシステムがどのような働きをするのか』を知っているだけなのです」と述べ、完全にシステムの概要を説明できるアルゴリズムだけを許可するべきではない、としています。

by Savannah River Site

ドミンゴス氏は、AIの規制はユーザーをサイトにとどまらせて利益を最大化するFacebookのアルゴリズムのように、利益を追求する目的で開発されるものを規制するべきだと語ります。一方で、GDPRによるデータの保護のように、AI開発に有用なデータ収集を阻害するデータ保護規制は悪手であり、せっかくヨーロッパには優秀なAI研究者がいるにもかかわらず、それが生かせないとのこと。現状では中国よりもヨーロッパの方が研究の質で上回っているものの、中国は国家が全面的にAI研究をサポートする体制を整えており、機械学習に必要なデータを研究者たちが利用しやすい環境にあると指摘しました。

「しかし、ヨーロッパには『データサンプルの多様性』があります。中国ではデータが均質で画一的なものになりがちですが、人々の多様性があるヨーロッパでは、機械学習にぴったりな多様なデータを収集することができるでしょう」として、ドミンゴス氏はデータサンプルとしてはヨーロッパのデータが有効だとしています。

さらに、AIの開発を主導するのはもはや国家ではなく企業だとし、現状でAI開発の世界最先端を走っているのはGoogleだとのこと。Microsoftがそれに続き、さらにその後ろからFacebookやAmazonが追いつこうとしている状況だとドミンゴス氏は分析しています。中国ではオンラインショップのアリババや巨大インターネット関連企業のテンセントが有力ですが、検索エンジンのBaiduもAIに対して大きな賭けをしている企業だそうです。

「Facebookのユーザー情報流出スキャンダルについてどう思うか？」とSPIEGEL ONLINEが質問すると、現在のFacebookからデータが流出するような事態は起こりにくいとしながらも、Facebookがプライバシーの観点でリスクを抱えた企業であることは間違いないと答えました。また、「FacebookはAIによる利益の最大化を図っていますが、その過程でユーザーに対してフェイクニュースを見せるなどのダメージを与えています。どこかのタイミングで、政府が介入する必要も出てくるでしょう」と述べました。

by Lawrence OP

そして、AIが民主主義を脅かすという主張に対しては、「AIは民主主義を推し進める有用なツールにもなり得る一方で、脅威にもなり得る」と語ります。民主主義を推し進めるツールとして、AIを用いたアルゴリズムを開発することで人々の要望を政治家に伝え、より民意を反映した政治を行うことが可能になるとのこと。一方で、AIが人々を監視するためのツールとして利用されたり、人々の行動を政府の思うままに操作する手段として悪用されるリスクも将来的に発生するかもしれないそうです。

「民主主義が脅威となる独裁的な政府にとって、AIを含むコンピューターは決して政府の命令に逆らうことがない最高の官僚となるのです。不本意な命令を拒否する権利を持つ西洋の軍隊と違い、コンピューターは『いいえ』と言うことはなく、正確に命令を実行してくれます」とドミンゴス氏は述べ、AIが独裁者にとって便利なものであると認めました。

ドミンゴス氏は権威主義的な政府がAIを掌握することにより、人々の権利が侵害される可能性があると危惧しています。「『人々はAIに興味がないかもしれないが、AIは人々に興味がある』ということです。政治家たちはAIを自分の都合のいい方向に設計することができ、これほど魅力的な存在は政治家にとってそうそうありません」とのこと。

「高度に発達したAIは神と区別がつかない」とドミンゴス氏は「The Master Algorithm」の中で語っていますが、これはSF作家のアーサー・C・クラーク氏の「進歩した技術は魔法と区別がつかない」をもじったものだそうです。「AIが反抗するのではないかと恐れる人々もいますが、その可能性はほとんどありません。それよりも、私たちがAIの自発的な制御を放棄してしまう可能性のほうがよほど高く、人々はAIの開発に際して常にAIを制御する意識を捨てないことが必要です」とドミンゴス氏は話します。

「AIは非常に賢いものですが、私たちの生活に与える影響を決定するのはAIではなく、AIを制御する人物です。AIを制御するのが民主主義的な人物なのかそうでないのか、そこがポイントになるでしょう」とドミンゴス氏は述べました。