「人工知能は人間を超えるか」を読んだよ。その１

人工知能（AI）が話題になっていて、将来人工知能に人類が滅亡させられるのではないかと心配する向きもあるようです。

ただ、もしかすると自分の懐具合しか考えていない人達に代わって人工知能が色々な事を判断したり富の再配分をやったほうが人類全体としてはいいのかもしれません。人工知能なので合理的に考えすぎて地球上の人口が増えすぎたから減らしなさいとか命令を出すかもしれないですけど。

昔読んだアイザック・アシモフ作のSFの名作にロボット工学の三原則というのが出て来ます。（昔書いた紹介記事）

われはロボット 〔決定版〕 アシモフのロボット傑作集 (ハヤカワ文庫 SF)

posted with ヨメレバ

アイザック・アシモフ 早川書房 2004-08-06

Amazon

Kindle

楽天ブックス

 

ロボットと人工知能はイコールではないですが（ロボットの一部が人工知能を組み込まれるようになるかもということですね）、人間のように自分で思考ができるような本当の意味での人工知能ができるとしたら、ロボットのような物理的な体はなくとも以下の原則は組み込まれないと人類が危ないかもしれません（笑）

第一条
　ロボットは人間に危害を加えてはならない。また、その危険を看過することによって、人間に危害を及ぼしてはならない。

第二条
　ロボットは人間にあたえられた命令に服従しなければならない。ただし、あたえられた命令が、第一条に反する場合は、この限りでない。

第三条
　ロボットは、前掲第一条および第二条に反するおそれのないかぎり、自己をまもらなければならない。

後に矛盾が生じて第零法則が追加されました。

第零条
　ロボットは人類に危害を加えてはならない。またその危険を看過することによって、人間に危害を及ぼしてはならない。

単体としての人間より人類としての生存が優先される法則になったということで、その結果として、新しい第一条に「ただし、第零条に反する場合はこの限りではない。」が追加されます。

人工知能の初期段階を扱ったアシモフの小説では、知能を持ち始めたロボットが、「ある人間」に危害を加えようとする「別の人間」に偶然相対したとき、「人間に危害を加えてはならない」というロボット三原則の第一条に矛盾が生じたのです。（死なない程度に気絶させるとか方法はあるのかもしれませんが、それが困難な時にどちらを優先すべきかは不明です）

人工知能に人類が滅亡させられるのでは？という問に関しては、現状では分かりません。

人工知能には人間のように生存したいという本能はなく、第三条のようにプログラム上「自己を守らなければならない。」とすれば、それが我々にとっては、あたかも生存欲求を持ち始めたようには見えるかもしれませんが。

「人工知能は人間を超えるか」は、長年人工知能を研究してきた著者が、今までのブームや現状、更にディープラーニングという新たなブレイクスルーを迎え今後どのように研究が進んでいくのか分かりやすく示した本です。

以前Kindle版が99円になっていた時があったのでポチってKindle積ん読状態になっていましたが読み終わりましたよ。

人工知能は人間を超えるか ディープラーニングの先にあるもの (角川EPUB選書)

posted with ヨメレバ

松尾 豊 KADOKAWA/中経出版 2015-03-11

Amazon

Kindle

楽天ブックス

 

昨今話題になっているディープラーニングの前段階の話ですが、

コンピューターがチェスや囲碁で人に勝つというのは、また違うのです。あれは基本的に探索木といって総当たりで可能な限りの深さで全ての手を先読みし、どれが一番勝つ可能性が高いかを調べて打っているのです（多分）（こっちがダメならあっちと迷路を解くようだと思ってもらえれば）

自分だけでなく相手の手もあるので探索する組み合わせは膨大になります。それで盤面のマス数が少ないオセロの方が探索する組み合わせとしては少なく、囲碁よりも早く人間に勝てたということ。

コンピューターの性能アップで、次の手を読む深さや速度が上がり、またどのような盤面なら勝ちに近くなるかという膨大なデータをインプットしておけるようになったので囲碁までもが人間に勝てるようになったのです。同じ先読みでもコンピューターは単に総当たりで勝てそうなスコアを計算しているのであり、人間のように思考しているのとは違いますね（多分）

人工知能を実現する上で、アプローチとしてアルゴリズム的な方法をとるのか、それとも人の脳の構造を全く同じに模倣するのかということを思いつきます。

ちょっとでもプログラミング的なことを考えると、人間のように思考することがどれだけ大変がわかるのですが、人工知能の研究というのはオセロゲームのような勝負で勝つと何でもできるのではないかと過大な期待をされブームになり、一方では我々人間にとっては簡単なことができなかったりしてガッカリされる、という繰り返しとのことです。

プログラミング的なアプローチでいくと、こちらは私がフォローしている方のツイートですが、

例えば「明日はドトールで借りてきた本を読もうと思う。」という文があれば、我々は経験則から「図書館や誰かに借りた本」を、「ドトールというコーヒーを飲む場所」で読むのだろうなと考えます。しかしコンピューターは、「本を借りたのはドトール」で「読むのはどこかの場所」と判断するかもしれません。（実際そうなのかもしれませんが）　ドトールはコーヒーショップ、本はこういうもの、本を借りるのは図書館など、ということをいちいちインプットする必要があり、それは無限にも等しい作業なのです。

人工知能に膨大な医療データをインプットすれば内科医のような判断は可能かもしれません。ただ本当の意味で自分で思考する人工知能というのは難しい。

私が知っていたのはこのあたりまでですが、ここでディープラーニングというキーワードが出てきました。何が新しいのか。これまで人工知能が直面していた問題は「概念」を自ら獲得することができなかったことです。

長くなったので続きます。