AI盲信に警鐘を鳴らしたMIT教授 ――ワイゼンバウムの『コンピュータ・パワー』を読み直そう――
AI盲信に警鐘を鳴らしたMIT教授
――ワイゼンバウムの『コンピュータ・パワー』を読み直そう――
このところ、急速に発展しているAI (人工知能) ですが、最近最も話題になっているのがChatGPTと呼ばれる「オリジナルのテキストを生成することができる人工知能ツール」です。(OpenAIに登録してアカウントを作ればすぐに使えますので、説明は省略します。)
「AIの新時代が始まった」、「教育の意味や内容が大きく変わる」等々、世界的に注目され話題になっています。
こうした評価を聞いて、私は1960年代から70年代にかけて、同じように話題になったAIのプログラムを思い出しました。「イライザ」です。そして私のハンドル・ネームもこのイライザから取ったものです。
MITのジョセフ・ワイゼンバウム教授が1960年代に開発したプログラムで、心理学のロジャーズ学派の原則を用いて、精神医療医の真似のできることが特徴でした。このプログラムを使って、コンピュータと対話をした多くの人々は、あたかも一人の人間と話しているかのような気持ちになったと報告しています。
その結果、「精神医はもう必要なくなった」というような過大な期待を寄せられるようになったのですが、まずは、一人の若い女性と「イライザ」との対話の記録を御覧下さい。最初が女性の、そしてイタリックは「イライザ」の言葉です。
男ってみんな同じ。
どのように。
男って、いつもあれをしろ、これをしろって、うるさくてしようがないんですもの。
何か特別な例をあげてください。
そうね、ボーイフレンドがここに来るようにって言ったの。
ボーイフレンドがあなたを、ここに来させた。
彼は、私がいつでもふさぎ込んでいるって言うんです。
ふさぎ込んでいるとは、お気の毒に思います。
ほんとなんです。私は幸福ではありません。
ここに来ることによって、不幸せから逃れるための、助けがが得られると思いますか。
何か助けが必要,それだけは確かです。
助けを得るということは、あなたにとってどういう意味がありますか。
たぶん、母との折合がよくなると思います。
あなたの家族について、もっと話してください。
母は私の面倒をみてくれます。
お母さんの他に、誰があなたの面倒をみるのですか。
父です。
お父さん。
あなたは私の父にちょっと似ています。
どのような類似点がありますか。
それほど積極的でないところ、でも、私にそれを気づいてほしくないのだと思います。
どうして私が積極的でないと思うのですか。
私に議論をしかけないから。
私があなたと議論をしないのは、なぜだと思いますか。
私が恐いから。
私があなたを恐いのだと思うことで、満足ですか。
父は誰でも恐いのです。
お父さんのことを考えるとき、他にどんなことを思いうかべますか。
弱い者いじめ。
それと、あなたのボーイフレンドが、あなたをここに来させたことと、何か関連がありますか。
ワイゼンバウム教授が驚いたこととして報告しているもう一つの身近な例は、彼の秘書についてのエピソードです。彼女は教授が何か月もこのプログラムの研究をしてきたことを知っているにもかかわらず、このコンピュータとほんの二言三言交わしただけで、教授に「部屋を出て行って欲しい」とまで言ったことです。つまり。コンピュータと彼女との間のプライバシーを尊重して欲しいという気持になったのです。
その他にも現れた様々な反応を元に、ワイゼンバウム教授は、AI研究と、人間が人間であることの意味との関係を深く考察して、警鐘を鳴らすための一書としてまとめました。タイトルは『Computer Power and Human Reason』 (W. H. Freeman and Company, 1976) です。日本語版は、私が訳し1979年にサイマル出版から刊行された『コンピュータ・パワー その驚異と脅威』です。
写真の下の方にある言葉がこの本の意味を的確に表現しています。「人間が機械の犠牲にならないために」、そして「コンピュータの世界的権威が、新しい文明症の予防を痛切に警告」です。
AIを考える上で欠かせない本質的な事どもについて、詳細かつ分り易く論じている現代の必読書です。ChatGPTが大きく取り上げられている今、このブログで、要点だけでも紹介したいと考えています。(続きます)
最後に今日一日、皆さんにとって、素晴らしい24時間でありますよう!
[2022/4/7 イライザ]
[お願い]
文章の下の《広島ブログ》というバナーを一日一度クリックして下さい。
« 議員からの発信手段を多様化できないか ――それなりのお金がないとできません―― | トップページ | ワイゼンバウム教授が受けたショック ――コンピュータが人間と同等かそれ以上に扱われたこと―― »
「パソコン・インターネット」カテゴリの記事
- #コロンブス問題 (その2) ――#1992年 #江崎玲於奈筑波大学長 #入学式での式辞―― (2024.06.17)
- #CLOVANoteが #使い易い ――#Wordのディクテーションより良いかもしれません―― (2024.06.01)
- #クレカの問題 #一瞬で解決 ―― #でもその前に #時間 と #手間が掛かりました―― (2024.04.22)
- #AsIO3.sys エラー の #解決法 ――#ArmouryCrate を #インストール して #sfc/scannow を実行するだけ―― (2024.03.13)
- #身辺整理 の #一日でした ―― #iTunes の #同期 や #引き出しの整理―― (2024.03.05)
「書籍・雑誌」カテゴリの記事
- #コロンブス問題 (その5) ――#板坂元氏の #無知論―― (2024.06.20)
- #コロンブス問題 (その4) ――#広い視野から #コロンブスを見よう―― (2024.06.19)
- #コロンブス問題 (その3) ――#江崎玲於奈学長 #式辞の問題点―― (2024.06.18)
- #定説でも #憲法99条 は #法的義務 ではない ――#法の支配 は #空文化 されているのでは?―― (2024.03.02)
- #加藤友三郎 #英文冊子 #完成記者会見 を #中国新聞が記事に してくれました ――友三郎を理解する人の輪が広まります―― (2024.02.29)
「言葉」カテゴリの記事
- #ハワイ大学での講義 ―― #反戦・反核がテーマです ―― (2025.01.27)
- #内灘闘争の歴史を学ぶ ――#JR総連中国地方協議会第38回定期委員会2部―― (2024.10.06)
- #式典から排除 の #基準は何ですか? ――#誰の基準か #何が目的か―― (2024.09.01)
- #駐日大使 の #式典招待は ――#知って貰うため #友達になって貰うため―― (2024.08.31)
- #当事者意識は #なぜ広がらないのか ――#同級生の投票行動から考える・第9回―― (2024.08.20)
「社会」カテゴリの記事
- #ダメなものはダメ ――#社会には #最低限の常識 #というものがあります―― (2024.06.12)
- #阪神淡路大震災 の時に受けた #ショック ――#29年経って #暗黙の大前提 に目が向いてきたでしょうか?―― (2024.01.18)
- #唐木順三 と #武谷三男 ――#科学者の社会的責任 についての論争です。―― (2023.12.09)
- AI盲信に警鐘を鳴らしたMIT教授 ――ワイゼンバウムの『コンピュータ・パワー』を読み直そう―― (2023.04.07)
- 社民党の大椿裕子副党首が繰り上げ当選 ――社民党の参議院議員は福島党首と二人になります―― (2023.03.31)
「AI」カテゴリの記事
- #目に見える #見返り ――#同級生の投票行動から考える・第12回―― (2024.08.25)
- #CLOVANoteが #使い易い ――#Wordのディクテーションより良いかもしれません―― (2024.06.01)
- WordのDictation機能を使っての、即時書き起こしです ――手直しをするのに1ページ15分掛りました―― (2023.06.17)
- 余りにも無防備過ぎます ――かつては煙草も無害だと信じられていました―― (2023.04.29)
- AIがベルギーの男性を死に追いやった? ――半世紀以上前のワイゼンバウム教授の警告が生かされませんでした―― (2023.04.28)
« 議員からの発信手段を多様化できないか ――それなりのお金がないとできません―― | トップページ | ワイゼンバウム教授が受けたショック ――コンピュータが人間と同等かそれ以上に扱われたこと―― »
コメント