ワイゼンバウム教授が自らに課した責任 (No. 3) ――コンピュータにさせてはいけない仕事のあることを確認しよう――

ワイゼンバウム教授が自らに課した責任 (No.3)

――コンピュータにさせてはいけない仕事のあることを確認しよう――

精神科医としての役割を「果せる」コンピュータ・プログラム「ドクター」を体験した人たちの反応に、プログラムの作者であるMITのワイゼンバウム教授 (以下、「W教授」と呼びます) はショックを受けたのですが、それは三つにまとめられます。

一つは、「ドクター」が成長し、コンピュータが精神科医に取って代われる時代が来ると信じた精神科医が多かったことです。

二つ目は、コンピュータとの間に「深い感情的交流」ができると人間が感じるまでに必要のは、ほんの二言三言という短い時間だったという事実です。

そして三つめは、「ドクター」が、コンピュータによる自然言語理解という問題の一般的解決だと考える人たちが続々と現れたことでした。

「ドクター」に対して多くの人が示した反応にW教授がショックを受けた最大の理由は、彼自身が「ドクター」作ったという事実にあると考えて良いでしょう。精神科医に取って代われる代物ではありませんし、人間との感情的交流ができるような要素も存在しないことも知っています。そして自然言語理解の一般論になっていないことも自分自身で作ったプログラムの限界として認識していたのですから。

それを元に、なぜ多くの人が「ドクター」に惑わされてしまったのかを、W教授は理解しようと考えました。それを、三つの疑問という形で説明しています。

一つは、私たちはこれまでの歴史で、人間を機械の一種であると考えることはあった。しかし、コンピュータの出現によって、それがより正当性を持つものだと考えられるようになってきた。コンピュータの持つどのような側面がこのような考え方を促しているのだろうか。

当然、人工知能 (AI) を取り上げることになるが、W教授は、人間の知能と人工の知能の間に一線が画されて当然だと考えている。しかし、もしその一線が踏み越えられた場合、どのようなことが起こるのかも私たちは予測し熟慮しなくてはならない。

二つ目に、より一般的には、人間は様々な道具と自分自身とを一体のものとして扱う感情的なつながりを持ってきた。そのためには、道具や機械を扱う場合に、それらを筋肉的、知覚的な習慣として自分の一部と見做すことが必要だった。

それを元に考えると、知性や認識、感情の表明に関わるような、いわば人間のあらゆる機能を延長するような機械に特別の感情を持つことも理解できる。

しかし、そんな機械に自らの自主性・自立性というところまで託してしまうという意味を、立ち止まって考えなくてはならないのではないか。

最後に、今という時代は、社会全体、その中でも官僚制度とか大学、その他の組織等までも機械というモデルで理解する傾向が強くなってきている。その中で人間の占める位置が崩れ、私たちは自らの持つ自主性や自律性を放棄するかさせられてしまう時代になっている。

そんな中で、長期にわたって外からのインプットなしに、いわば自動的自律的に動く機械に、つまり機械の内部事情だけに依存して動く機械に、私たちがより強く広く依存し始めているという皮肉にも目を向けよう。

となると、私たち自身も含めて私たちの住む社会そのものを理解するためにも、モデルである機械の内部事情を理解する必要がある。

実は、そこで最大の注意を払う必要があるのは、私たちの身近にあるほとんど唯一と言って良いモデルは、人間の思考だという点である。そのモデルを使って機械を説明しようとすると、機械の持つ能力以上の「説明」になってしまう傾向が顕著になる。

それは、「イライザ」の真似のできる人は多くいるのに対して、その人たちが同時に、「イライザ」と同じくらいの言語能力しか持たないなどということはまずはあり得ないからである。

このように、限りなく続く矛盾のスパイラルをも整理しながら、コンピュータと人間との関係を考えて行くことになるのですが、W教授の結論は、様々な論証そのものでもあるという側面を持つことになります。

長くなりますが、できるだけ分り易く、この項を後数回続けたいと考えています。

最後に今日一日、皆さんにとって、素晴らしい24時間でありますよう!

 [2022/4/10　イライザ]

[お願い]

文章の下の《広島ブログ》というバナーを一日一度クリックして下さい。