将棋の藤井四段の活躍が世間を賑わせているのをきっかけに、人間を超えた将棋AIポナンザの開発者による、人工知能の解説本を読んでみました。そしたらこれが面白かった。入門書として僕にはちょうどよかったので、僕くらいの超素人さんにはおすすめする次第。
目次
将棋AIソフトの開発者による解説本
この本の面白いところは、最初に述べたとおり、将棋AIポナンザの開発者による本だということ。人間には到底かなわなかった初期の弱いポナンザが、ついに電脳戦で人間の名人を破るまでの開発史を描きつつ、そのなかで「そもそもコンピュータとは何をするもの？」というレベルから「人工知能と機械学習ってどう違うの？」「そのなかで、ディープラーニングってなに？」という話に連れて行ってくれる。また、囲碁の世界で話題になったアルファ碁のどこか突出していたかという話も、同じ開発者である著者ならではの視点で説明してくれる。全体として、この本には解説モードとストーリーモードの両方のモードがバランスよくあって、それが超初心者の僕にはちょうど良い感じ。
人工知能が「物語」を獲得するまで
特に面白いのは、人工知能と人間の違いについて、次のように書かれている章。もともと人工知能は、「最終的な目的を設定するための適切な目的を設定することが苦手」なのだという。一手一手の意味を考え、それを目的を持った物語として理解することができないのだ。
人間は、あらゆることに意味を感じ、物語を読み取ろうとします。この能力＝知性によって人工知能にもならぶパフォーマンスを出すこともありますが、それは意味や物語から離れることができないという制約にもなっています。
一方、人工知能は、意味や物語から自由なために人間を超えることができますが、目的を設計するという知性を持つことができません。 （p181-182）
とはいえ、筆者はこのような人間的な知性でさえ、人工知能は将来的に獲得していくだろうと予想する。複数の目的をもつディープラーニングが相互に影響しあうことによって。アルファ碁では、すでにそのような仕組みが使われているので、説得力のある話だ。
人工知能は人間の倫理観を学ぶ
そして人工知能が知性まで獲得する未来では、その「目的」設定をコントロールする「倫理観」が問題になる。そして面白いことに、人工知能はその倫理観を人間をモデルにしたディープラーニングで学ぶのだ。その事例として「父は母がバッグを忘れたことを怒った」「母は父がバッグを忘れたことを怒った」という例文のグーグル翻訳の結果が面白い。「バッグは女性のもの」というステレオタイプを踏まえて翻訳するのだそうだ。これ、実際に試してみると面白いです…。「バッグ」を「鞄」に入れ替えるだけで、所有者が「母」から「父」に変わったりするんですねえ。
つまり、人工知能はすでに人間から「常識」を学びつつあるのだ。である以上、結局は人間がよき倫理観を持つことが、人工知能が人間を凌駕する未来では大切なのだと述べる。
このまま技術革新が進めば、少なくとも今世紀の終わりまでには、人工知能が人間から卒業し、「超知能」が誕生するのは確定的です。その彼／彼女を、人間が失望させないことが大事なポイントなのです。
そのために私たちにできることは、冗談に聞こえるかもしれませんが、インターネットを含むすべての世界で、できる限り「いい人」でいることなのです。これを私は「いい人理論」と読んでいます。
おそらく、人類が「いい人」であれば、人工知能はシンギュラリティを迎えたあとも、敬意を持って私たちを扱ってくれるでしょう。尊敬と愛情を感じる親であれば、年老いたあとも子どもが寄り添ってくれるように。未来の人類と人工知能が、そのような関係になることを私は心から祈っています。
ちょっと怖い話だけど、開発の最前線にいる人の言葉だけに、重いなあ…。
基本的なしくみから人工知能とのつきあいかたまで
人工知能の基本的なしくみ、開発者視点でのストーリー、そしてすでに人間を超えている人工知能との付き合い方まで。人工知能について知る「最初の一冊」としてはとても良い本だと思う。学校図書館にも入れてもらおう！
