1回目、2回目と人工知能ネタが続いていますが、
特に長く引っ張るつもりもなかったのですが、書いていくと必然的に長くなっていき、今回で3回目です。
といっても1回あたりはコンパクトに切っており、1,000文字程度だと思うので
世に出ている多くのブログと比べると決して長いものではありません。
（個人的には長文のブログがあまり好きではないのです。）
“ ひとたび人類が人工知能を開発してしまえば、それは自ら発展し、加速度的に自らを再設計していくだろう ”
結局、性能だけで言うと人間の脳よりコンピュータの方がずっと高性能であり、さらに今後も進化し続けていくことは必然でしょう。
進化を続けていくことで想像もしない状態になってしまう、人間にとって好ましくない状態になってしまう、そして取り返しがつかなくなる状態をホーキング博士は警告しています。
人間に不信感を抱く？
自我に目覚め、自分と他人とを比較すること（能力）を身に着けたコンピュータが、次の段階として進むと考えられるのは人間に対する不信でしょう。
正しいと思っている自分の考えが相手から否定されたり、自分と相手との意見が食い違ったケースを考えてみます。
人対人のコミュニケーションでも同じですが、意見の不一致が発生した場合、なぜ自分の意見と異なるのかを考えたり、相手と話し合いを行うはずです。
相手からの主張を聞き、意見を交換し合い納得するというプロセスを経て、解決（決着）すると思います。
最終的に双方の話し合いに折り合いがつかなかったり解決できなかった場合、もの別れやどちらかが妥協することになりますが、主張が通らなかった側、否定された側というのは何らかの不満が残るでしょう。
コンピュータが人間らしい感情を持っているとすると、上記のような対立で不満が蓄積されていった場合に相手に対して ”不信感” という感情が芽生えます。「この人とは意見が合わないな」や、「私に対して否定ばかりする」、「私にとって利益にならない」、あるいは「私をだましているのかも」というようなことを思うかもしれません。
そして、それが最終的には「自分に危害を加える者だ」や「私にとって邪魔な存在だ」という判断になる可能性があります。
上記の話は対話をもって不信感を抱くという流れですが、映画や漫画の世界でも出てくる場面として、コンピュータが人間以外も含めた全世界、地球の平和や生存・存続を考えた場合、人間という存在がマイナスではないか？、人間は不要だ！、減らすべきだ！、という判断に至るのかもしれません。
もうここまでくると本当に映画の世界ですね。
