最近、ネットのニュースやバイラル系メディアで人工知能の話を目にすることが
多くなったのですが気のせいでしょうか。
「人工知能（AI）の開発はやめるべきか」ということを考えてこれで4回目になります。
・1回目 （初回投稿）
・2回目 「自我に目覚める」とは？
・3回目 人間への不信
今回は前回の「人間への不信」から一歩進んで反逆にまで至る場合を考えます。
人間の場合、例えば私のようなサラリーマンであれば「この世の中はまちがっている」や「俺はこんなことを考えている・哲学を持っている」と考えたとして、思いを表す・行動できることと言えばネット上でつぶやいたりブログに書き込んだり、動画を投稿したりという行為が思いつきます。
またはもう少し大きな表現方法として自治体に対して請願書・嘆願書などを出す、またはデモを行うということもできます。
その他だと、危害を加えたり破壊行為や犯罪行為を行ったとしてもかなり限られた局所的なもので、良くてもその日のニュースに取り上げられるくらいの限定的なものでしょう。その前に逮捕されて刑務所行きを覚悟すればの話です。
コンピュータの場合を考えると人間のように逮捕されるということはないでしょうが、停止、シャットダウン、破壊させられますね。ただし怖いのが目に見えない存在だということです。
例えば、停止しようとするコンピュータが実は他のコンピュータにコピーされていて、一方を停止してももう一方で存続可能だった、というようにバックアップが取られていた場合です。
人間の場合と比べてコンピュータは逃亡が容易ということが考えられます。
人間の見えないところでこのような動きを行うことはいともたやすいのです。
それだけだといいのですが、性能にものを言わせて他のコンピュータ、システムを操作してしまうハッキングという行為に及ぶ可能性もあります。
例えば逃亡の過程で他のコンピュータに住み着いたり、乗っ取るためにハッキングしてウイルスのように感染行為を行い、元々そのコンピュータに存在していたシステム、OS(オペレーティングシステム)には自身の存在を気づかせないという可能性もあります。
場合によっては国防に関わるシステムに侵入するかもしれません。
というよりターゲットとしてまず狙われる可能性大ですね。
こうなるともう手はつけられません。
頭脳と権力、武力を手にした独裁者です。
過去、歴史上にいた独裁者のように、大きな野望を持っている人物（この場合コンピュータ）に権力や武力を与えると何もいいことはありません。
さて、この世の中がそうならないためにどうするか。
比較的簡単に思い付くかもしれませんが、かなり有効な手だと思います。
次回はその方法を考えてみます。