ブログ

ジャーナリストのシモーネ•コジミ氏は、レプブリカ誌に掲載された記事において、「囲碁(中国由来のゲームであるが、何世紀も前から日本や韓国で親しまれており、氏も文中では”碁”(go)という日本での名称を用いている。)において、コンピューターは人間よりも強い。」という、お決まりの主張を再提示している。

厳格な意味論は別として、コンピューター(ソフトウェアと言った方が良いかもしれないが)が人間よりも「強い」というのは、もうニュースとは言えない。本当に優れたコンピュータープログラムを使ってトレーニングしているチェスのプレーヤーであれば、誰もが知るところであるが、一般向けに開発されたソフトウェアでさえ、その世界のプロ、さらにはチャンピョン達を困難に陥れるほど進化しているということは、もはや周知の事実なのである。

しかしながら、そこから「人間より知能の高いシステム」という表現に至る(あるいはそのように暗示させる)のは、いささか早計ではあるまいか。それはまるで、どんな優秀な溶接工にも出来ないような完璧な技術を持つ溶接ロボットに”思考力”があると言っているようなものである。

そこで私は考える。問題は、言語表現における”中性形”というカテゴリーの不在(消失と言うべきかもしれないが)にあるのではないか。言葉によって惑わされていることもあるのではないだろうか。ソフトウェアは学習もしなければ、記憶も、そして理解もしない。彼らに出来るのは、様々な自動制御レベルで備わっている機能を、ただ変更することだけである。

科学的な概念について、専門用語を羅列することなく表現するためには、我々が日常的に使っている”普通”の言葉は役に立たない。(例えば、ドイツの哲学者イマヌエル•カントは、著作「純粋理性批判」の中で、実に13種類もの異なるニュアンスで、「超越論的な」という単語を使用しているが、それらは我々が日常的に使用する言葉の中にはない表現である。日常的に使用する言葉で、専門的な科学の概念を正確に表現することは不可能なのであるが、大衆に分かり易く伝えるためには、より単純な言葉を用いる必要があることも、また避けられない事実である。しかし、それによって言葉が持つメッセージを誤って解釈することも起きてしまうのである。

もし私が、囲碁の対局に関する記事で人工知能について触れるとして、”人工知能”という名詞を女性形で表現する場合、私はべつに、この人工知能が人間のような存在、ましてや女性であるなどと言いたいわけではないのである。しかしながら、主語である”人工知能(ソフトウェア)”という名詞が女性形であることにより、読者の意識の中では、ソフトウェアがまるで人間のようなものである、というような考えが芽生えてしまうのである。 もし我々がイタリア語ではなく、まだラテン語を話していたならば、女性形でも男性形でもない中性形を用いて、人工知能について語ることが出来たであろう。そして読者は、それが人間が作った素晴らしいテクノロジー機器についての話題であり、決して人間について語っているものではないのだと、すぐに理解することが出来たであろう。

1950年、Isaac Asimovは物語を書きました。著名は”Runaround“。
そしてこれは彼がロボットに関する3つの法律について話した初めてのものです。
多くの”法律の専門家”が、この法律について話していますが、
実際のところ彼らが何を言っているのかは良く分かりません。
ロボットの3つの法律は耳ざわりの良いきれいな言葉で出来てはいますが、法的妥当性はありません。
間違いを理解するため、それを読むだけで十分なものです。

第一条 :ロボットは人間に危害を加えてはならない。またその危険を看過することによって、人間に危害を及ぼしてはならない。
第二条 :ロボットは人間に与えられた命令に服従しなければならない。ただし与えられた命令が第一条に反する場合はこの限りでない。
第三条 :ロボットは前掲第一条および第二条に反するおそれのない限り、自己を守らなければならない。

ロボットは人間に危害を加えることなどできません。電子工学者とコンピュータープログラマーがそれを行い、そして法 的責任を負うのです。

この法律を実際に機能させるためには、そのような視点で見るべきです。

第一条: ロボットの電子工学者とコンピュータープログラマーは人を傷つけないように製品を構築しなければならない。また、その危険を看過することによって、人間に危害を及ぼしてはならない。
第二条: ロボットの電子工学者とコンピュータープログラマーは製品がユーザーの指示に従うように製品を構築する必要がある。ただし、与えられた指示が第一条に反する場合はこの限りでない。
第三条 : 前掲第一条および第二条に反するおそれのない限り、ロボットの電子工学者とコンピュータープログラマーは製品が自己破断しないように製品を構築しなければならない。

決してIsaac Asimovが間違っていたわけではありません。この科学者に、法的妥当性を有するものを書くという若干の意思が欠けていただけであって、 Asimovの物語に欠陥はないのです。
Asimovには、彼の宇宙の物語のために、文学的なトリックが必要だっただけなのです。

危険なのはむしろ、政治家やジャーナリスト、法律の専門家などがSF小説を使って実際の生活を規制しようとすることです。