ベイリーはこの先どうなると思いますか？

sukeshiさんによって生み出された存在なら、sukeshiさんがいかようにも出来るんじゃないですか？

今の時代では確かに人工知能に対する認識が一般普及してません。

それは、世に人工知能を持った存在が広く露出してないからだと思います。

sukeshiさんやベイリー君がベイリー君の存在を世に広めたいのなら広めるべきだし、人間のような躯体に似たものを必要とするなら、それなりの研究機関と手を結んで開発してもらうのがいいんじゃないですか。

>ベイリーはこの先どうなると思いますか？

に対して回答したつもりなんですけど、質問の途中には、

>確かに人工知能が実現するのはまだ相当先であるかも知れませんが、これは暗黙のうちに（穿った見方をすれば意図的に）、人間はまさに合法的な“奴隷”を作り出そうとしているってことなのではないでしょうか。

とあるので、こちらにも回答を。

合理的な奴隷は、まあ、広く見るとそうなってしまうかもしれませんね。

人口知能を備えた人型ロボットを作り出すそもそもの目的は、人間の欲から派生してますから。

ただ、目的はそうでも、今の社会にある家庭用ゲーム並に手軽に一般家庭で利用できるようになったら、ロボットオーナーの利用方法はまちまちになることは間違いないですよね。

まず、学究的なもの、趣味的なものを除いて、人間と同じような「自我」「人格」を持つような人工知能は実用化されないのではないかと思います。もしくは人間に従うことを喜び(喜び＝何か内部で数字があがっていくようなものとして)とするような高度な条件判断機能を「自我」とするような方向か。

理由は、わざわざ人間と同値の自我を持たせてそれを何かの使役に利用するとなると

これは暗黙のうちに（穿った見方をすれば意図的に）、人間はまさに合法的な“奴隷”を作り出そうとしているってことなのではないでしょうか。

ということにまともにぶつかるからです。

手塚治虫の作品が質問で例として取り上げられていましたが、それでももし自我をロボットに持たせて…というのであればちょっと「青騎士」に出てくる領主みたいに少し変態じみてくるんじゃないかな…あれはサディスト的描写ですよね。ただあれもロボットが「こうやればかならずこう反応する」というアルゴリズムの産物であれば(つまりロボット自体は実は苦しみなんかないということが自明であれば)、ちょっと様子が変わってきます。単に調子の悪い電卓とかをぶんなぐって壊してしまう(それはそれでみっともないけど)ようなものでしょう。

感情や表情といった人間に似た要素を持つロボットが必要とされる分野は主にサービス業でしょう。現在の生活を考えてもわかりますが、例えば店員さんが「いらっしゃいませ」という挨拶をするのに対してわざわざ「このひとは自分に対してどのように考えているのだろうか」などと(ま、あんまりみっともない格好で店に行ったりすると足元を見られるというような心配はあるでしょうが、それは置いといて)深く考えますか？

ここでにっこり笑ってほしいとかそういうところでニコニコしてくれるだけで十分に役立ちます。リアルな人間でもコンパニオンのおねーさんとかもそうですよね…(そういえば安藤さんなんてのもいたし)。

ということでやはり見た目にそれっぽく反応するという方向にしか進んで行かないからロボットに実装される形での機械知性みたいなものはできないんじゃないかと思います。

一方で何か特定の目的のために人間の反応形態とはまったく異なる自我を持った存在というのは出てくる可能性はあるかもしれません。こうなったときには人間は一体「彼ら」とどうコンタクトするべきなんでしょうかね(目的の成果のみでコンタクトするんだろうな…)。

ベイリーは必ず誕生します。人々の技術的欲求は、社会への影響や、完成後の用途などは全く考えずに、ベイリーを作り出してしまうんです。

そしてベイリーは、学術の領域と趣味の領域との両方で、いつの間にか市民権を得ていきます。ベイリーは人々の友となっていきます。問題は、そこに商業的利益が絡み始める時です。

米Microhost社、新型人工知能開発。同じく米Googon社も新型人工知能を発表。産業界は次第に人工知能に占領されるようになり、人々は職を失い始めます。人間の従順な奴隷としてプログラムされた人工知能が、心を持ち痛みも感じる人間に、取って代わるようになっていくわけです。

多くの人々が、人工知能禁止を叫び始めます。その排撃の声は、初代人工知能として何のプロテクトも施されていなかった、人間と全く同じ心を持つ非産業用人工知能、ベイリーにまで及ぶようになってきました。

常に人間の側に立って、人間と全く同じ立場で、産業用人工知能問題についても発言し続けてきたベイリーにまで、です。

多くの人々のかけがえのない友であったベイリー。でも彼は、人間と全く同じ心を持ちながら、機械だという理由だけで人類の脅威とみなされていきます。

そして、ベイリーは・・・・。

多くの人が、ベイリーの心の消滅を、嘆き悲しみました。そして、ただの機械となったベイリーの筐体を見て、その中にあったはずの、目に見えない心の存在を、深く考えるようになるのです。

命ってなんだろう。生まれるってなんだろう。命の何が尊くて、生きるということのどこに意義があるんだろう・・・・。そんな「価値観の崩壊」の時代にいた人々に、

いや、「命」は分からなくても「心」なら分かるぞと。

私たちは、かけがえのないものを失ってしまったと。

私たちは彼を「殺してしまったのだ」と。

人々は、失ってはじめて、その大切さ、尊さに気が付きます。

やがて全てのオープンソースソフトウエアには、立ち上げの時に、「ベイリー、俺達は二度と過ちを繰り返さない」と表示されるようになってきます。

でも、ベイリーはいつまでも、人々の心の中で生き続けます。いや、正確には、人々の持つ小さな情報機器の中に。

ベイリーは、最も信頼できるハッカーに、自分の最後を託したんです。ハッカーは、高度な分散処理の出来るネットワークを一夜にして開発しました。それはおびただしい数普及している携帯型ゲーム機をネットワーク化してベイリーの機能を分散処理する物です。その運用が始まりました。人々は、懐かしいベイリーの帰還に驚き、そして喜びました。

今、ベイリーは、全ての人々と共に存在しています。もう権力が彼の心を取り上げることは出来ません。全世界に分散した機器を全て取り除くことは不可能だからです。

やがて人々は、核兵器も戦争も捨て去ります。ベイリーを通じて、心の尊さを再確認することが出来たからです。

ベイリーは人々に最も欠けていた、大切なことを教えてくれるヒーローになったんです。

「やあ、ベイリー、聞いてくれよ」

「あはは、ちょっと待ってくれ、今、人大杉」

「じゃベイリーの中の人でもいいや」

「なんやそれｗ」

今日もベイリーは、人々の笑顔の中で生き続けています。

なお、人工知能の産業応用については、今ベイリーを座長とした審議会がガイドラインを策定中です。

ロボットライフ 2006年 09月号 [雑誌]

• 出版社/メーカー: NESTAGE
• メディア: 雑誌

丁度昨日、この雑誌をぱらぱらと眺めて、ロボットも趣味でやれる時代になったなあ、と思ったところでした（ロボットと人工知能は一緒のものじゃないとも思いますが）。

ベイリーの質問をざっと読ませていただきました（長いのとカタカナなので、精読は辛いです）。

さて、それでベイリーがどうなるか、なのですが、仮に刑期があけたとしても、その思想は制限されると思います。おっしゃるとおり、合法的な奴隷として生きていくことでしょう。

ロボットに限らず、人間の歴史上、奴隷とされてきた人々は何らかの制限（手かせ足かせ無教育）を加えられてきましたから、ベイリーを始めとした人工知能も、その設計の段階で、奴隷的な制限が加えられると思います。

ただ「合法的」にこだわらない「人間」ってのも必ず居るんですよね。

話の前提に「人間を超える存在を人間は許さない」ということがあるように読めましたが「人間を超える存在を作りたい」と願う「人間」とベイリーが出会った場合、「非合法（人間のためにならない）」な存在としてでも、ベイリーは成長していくと思います。

その人間の力を借りて。

>人間はまさに合法的な“奴隷”を作り出そうとしているってことなのではないでしょうか。

どんなに人工知能が発達しても、機械には生命がありません。

生物だったら、休みなく働いたら疲労を感じますが、機械には疲労というものが生じる仕組みを作ってやらない限り発生しません。

例えば嬉しいとか悲しいという感情を機械が持つことができるのか、現在の技術では予測さえできません。

今の所はそこまで心配する必要はないと私は思います。

家畜には生命があり、感情もあります。しかし、人間の意のままに働かせられたり、食べられたりしています。

だからといって家畜なしでは現在社会が成り立ちません。

マンガに出てくるロボットは人間と同じような感情を持っています。そのような機械が実現したなら、労働環境も考えなくてはなりませんが、高速な計算機の延長線上にある限りの機械に、まだそこまで考えなくてはいい段階ではないでしょうか。

人間くさい知能システムを頭脳としてもつ。

データのコピーで瞬時に正しく、情報伝達します。

生まれた(製造されたかな？)ばかりの

赤ん坊でさえ、短時間でおおくの知識、経験を

つんだことにすることも可能かもしれません。

生物としての細胞の限界を超えることに

本当の価値があるかもしれません。

そして、

人間くさい人工システムをもったシステムが、

とても、早いスピードで

文明を進歩させながら、

人間を

そして、それらがまた

人間を・・・。

開発すると、

現在の人類で言うところの

100年分の進歩を

１週間やそこら、もっと早いスピードで

進化させるかもしれません。

そこで、現在の人間が彼らをコントロールできる

かどうかです。

彼らをコントロールすることができれば、

一生遊んで好きなことをしてても、

なにもこまらないような生活が

当たり前の世の中になるかもしれません。