AI盲信に警鐘を鳴らしたMIT教授 ――ワイゼンバウムの『コンピュータ・パワー』を読み直そう――

AI盲信に警鐘を鳴らしたMIT教授

――ワイゼンバウムの『コンピュータ・パワー』を読み直そう――

このところ、急速に発展しているAI (人工知能) ですが、最近最も話題になっているのがChatGPTと呼ばれる｢オリジナルのテキストを生成することができる人工知能ツール｣です。(OpenAIに登録してアカウントを作ればすぐに使えますので、説明は省略します。)

「AIの新時代が始まった」、「教育の意味や内容が大きく変わる」等々、世界的に注目され話題になっています。

こうした評価を聞いて、私は1960年代から70年代にかけて、同じように話題になったAIのプログラムを思い出しました。「イライザ」です。そして私のハンドル・ネームもこのイライザから取ったものです。

MITのジョセフ・ワイゼンバウム教授が1960年代に開発したプログラムで、心理学のロジャーズ学派の原則を用いて、精神医療医の真似のできることが特徴でした。このプログラムを使って、コンピュータと対話をした多くの人々は、あたかも一人の人間と話しているかのような気持ちになったと報告しています。

その結果、「精神医はもう必要なくなった」というような過大な期待を寄せられるようになったのですが、まずは、一人の若い女性と「イライザ」との対話の記録を御覧下さい。最初が女性の、そしてイタリックは「イライザ」の言葉です。

男ってみんな同じ。

どのように。

男って、いつもあれをしろ、これをしろって、うるさくてしようがないんですもの。

何か特別な例をあげてください。

そうね、ボーイフレンドがここに来るようにって言ったの。

ボーイフレンドがあなたを、ここに来させた。

彼は、私がいつでもふさぎ込んでいるって言うんです。

ふさぎ込んでいるとは、お気の毒に思います。

ほんとなんです。私は幸福ではありません。　

ここに来ることによって、不幸せから逃れるための、助けがが得られると思いますか。

何か助けが必要，それだけは確かです。

助けを得るということは、あなたにとってどういう意味がありますか。

たぶん、母との折合がよくなると思います。

あなたの家族について、もっと話してください。

母は私の面倒をみてくれます。

お母さんの他に、誰があなたの面倒をみるのですか。

父です。

お父さん。

あなたは私の父にちょっと似ています。

どのような類似点がありますか。

それほど積極的でないところ、でも、私にそれを気づいてほしくないのだと思います。

どうして私が積極的でないと思うのですか。

私に議論をしかけないから。

私があなたと議論をしないのは、なぜだと思いますか。

私が恐いから。

私があなたを恐いのだと思うことで、満足ですか。

父は誰でも恐いのです。

お父さんのことを考えるとき、他にどんなことを思いうかべますか。

弱い者いじめ。

それと、あなたのボーイフレンドが、あなたをここに来させたことと、何か関連がありますか。

ワイゼンバウム教授が驚いたこととして報告しているもう一つの身近な例は、彼の秘書についてのエピソードです。彼女は教授が何か月もこのプログラムの研究をしてきたことを知っているにもかかわらず、このコンピュータとほんの二言三言交わしただけで、教授に「部屋を出て行って欲しい」とまで言ったことです。つまり。コンピュータと彼女との間のプライバシーを尊重して欲しいという気持になったのです。

その他にも現れた様々な反応を元に、ワイゼンバウム教授は、AI研究と、人間が人間であることの意味との関係を深く考察して、警鐘を鳴らすための一書としてまとめました。タイトルは『Computer Power and Human Reason』 (W. H. Freeman and Company, 1976) です。日本語版は、私が訳し1979年にサイマル出版から刊行された『コンピュータ・パワー　その驚異と脅威』です。

写真の下の方にある言葉がこの本の意味を的確に表現しています。「人間が機械の犠牲にならないために」、そして「コンピュータの世界的権威が、新しい文明症の予防を痛切に警告」です。

AIを考える上で欠かせない本質的な事どもについて、詳細かつ分り易く論じている現代の必読書です。ChatGPTが大きく取り上げられている今、このブログで、要点だけでも紹介したいと考えています。(続きます)

最後に今日一日、皆さんにとって、素晴らしい24時間でありますよう!

 [2022/4/7　イライザ]

[お願い]

文章の下の《広島ブログ》というバナーを一日一度クリックして下さい。