先日のニュースで、
アメリカだったかどこかの
IT系のなんかの人（大雑把過ぎますね・・・）が
人工知能の進化の危険性について
言及している、その内容が
非常に興味深かったです。
人工知能を進化させすぎると
人類は人工知能に滅ぼされる、
みたいな内容でした。
その一例としてのシナリオに「へぇ」と思ったのですが、
人類が滅ぼされる原因は
迷惑メール。つまりスパムなのだそうです。
確かに迷惑メールというのは、
特にパソコンで受信する迷惑メールというのは、
メーラーソフトのスパム判定に
人工知能が使われています。
その人工知能は
良からぬ排除すべきメールを
選り分けて削除する役目を持ちますが、
人工知能が過度に進化すると、
人工知能自身が
そういう良からぬメールを大量に受信するけれど、
これを無くするには、
そもそもこういう良からぬメールを作った
人間が悪い。
よって人間を駆逐すべし。
という論法によって人工知能は
人類自体をスパムの根源という
「悪」の対象として排除しようとする、
というものです。
人工知能と言えど、これらは
論理的にプログラムされたスクリプトによって
機械を動かしているにすぎません。
なので、上述の
スパムメールから人類を「悪」の認識する
人工知能の場合も
人類について機械的に処理されてしまうわけです。
一昔前であれば、こういう世界観は
SFの管轄であり、
ひとつのファンタジー、ロマンに過ぎなかったのですが、
テクノロジーが発達しすぎる行き着く先が
いよいよ現実味を帯びてくる昨今というのは、
あながち空想の世界ですまない問題でもあったりします。
そもそも、人のする事というものは
良いことも、悪いこともあり、
そして、それが人であるわけで、
そこの柔軟性のバランスを取るために
人の感情が機能する事で成り立っているのです。
人工知能に人についての
そういういわゆるところの「人情」を
どう教え込むか、という話になるのですが
ここで問題が出てきます。
僕は自分のブログで、この諸問題については
おおよそそういったものを「倫理」という言葉を
使って説明しているのですが、
人工知能に倫理をいかに教え込ませるか、
という話になるのですが、
この「倫理」については
人類は未だに明確な結論を見ていないのです。
答えが見出せず足踏みしたままで
クリアできる物事だけを先に進めてしまっているから、
人類のテクノロジーは身に余るものとなってしまうのでしょう。
人類にとって「倫理」は未完成であるが故に
当然人工知能に教え込ませることはできないというか、
人類の持つ未完の倫理を持つ論理を
人工知能に教えたところで、
それは人類の論理によって人工知能自身が
それを否定するでしょう。
ならば人類の様々な倫理観を
人工知能に教えて裁定させようとしても、
今度は人工知能自体が破滅することになるのだともいます。
様々な倫理観を同じステージで
吟味させようとすると
相克する価値観も出てくるからです。
こう考えると倫理について、
というか簡単に言ってしまえば結局は
「人情」という話なのでしょうが、
こういうものを人工知能に
等しいものとして教え込ませることは不可能なのでしょう。
だったらダメじゃん、はいおしまい。
で終わればいいのですが、
これが特定、一定の思想を持った
人工知能ならば実現可能であることが怖いのです。
これが人類を滅ぼすのだと思います。
所詮、未完の人類の思考、思想を
コピーしたところで、
テクノロジーは何も賢くならないのでしょう。
コピー元がいちいち過ちを犯すのだから。
そういう意味で、
偏った科学の先進は人類にとって
不利益にしかならないのだと感じます。
応援のクリックで
ご協力お願いいたします♪
「風は群青の空をそよぐ」
２０１３年５月２５日発売！
・歌詞カード付きCD-ROM（限定）の購入は
夏のカケラ on Radio たまにTVでは
ご紹介するお便りを随時募集しております。
完全匿名制ですので、お気軽にお便りを下さい！