#もう一つの吃驚 #総理大臣になったら ―――#同世代の6人が #魂の一冊を出版―――

#もう一つの吃驚 #総理大臣になったら

―――#同世代の6人が #魂の一冊を出版―――

元気な6人

ブログ激励のために、上のバナーをクリックして下さい

広島で吃驚したことを報告しましたが、上京して同級生たちに会ってもう一つ吃驚したことがありました。

「これが新しい本だ」と言って渡されたのは、タイトルが『私が総理になったら』という本でした。サブタイトルは「昭和を創った男たちから未来の日本へのメッセージ」、そして1番下には著者たちの紹介の一部として「 6人の男の魂の1冊」という説明があって、著者6人の名前が記されています。

年齢的には皆さん、私や同級生と同じ年、あるいは少し上の方たちばかりです。日常的に政治に関わっている方も1人いらっしゃったのですが、その他の方は経営者が主で、政治には直接関わりがない方ですし、本を日常的に書いている方たちでもありません。

そんな方が、失礼な言い方をすれば、「何を血迷って」と形容することで私の「吃驚」度を示したいのですが、『私が総理になったら」というような本を書く気になったのでしょうか？

私にはとてもそんな元気はありません。今更、総理大臣になったら何をするかを想像して、あれをしようこれを変えようと頭の中だけでも複雑怪奇な状況を相手に、何とか提言のようなものをまとめるということを考えただけで、「手に負えない」という気持になりそうです。

しかし、これだけのエネルギーがあるのですから、この6人の皆さん本当にまだお元気で、そして社会的にもっともっと多くの貢献を続け、その印を残して行きたいということだと思います。素晴らしいですね。昔の言葉では「意気に感じて」の出版だということになるのでしょう。6人の皆さんの善意が未来の日本に何とか伝わると良いなと思っています。

せっかくですからこの著者6人と、例えば高校生たちとの間での交流が行われて、そのやり取りや、熱い議論の様子がテレビで放映されるといったような企画を誰か立ててくれると良いんじゃないかなと考えています。

さらに吃驚したのはこの本の作り方です。

6人の方がそれぞれ短い文章を書いて、それを順に並べて本にするとことを考えていたようなのですが、まずそれをAIを使って編集をするというステップを入れたそうです。

それを読むとAIに整理された結果として、原稿の中に凸凹があったり、長短の違い、役割分担の重複等があったりに気付いて少し手を入れられたようです。その結果として格段に本の内容が向上したとのことです。その結果、アマゾンの電子ブックとしてまずは出版したそうなのですが、それを見ているうちに、やはり紙の本にしたいということになり、これもAIを使っての本の形にしたそうです。

ざっと目を通してみましたが、色々と面白い着眼点があったり、皆さんそれぞれの分野のリーダーですので、私の知らない世界からのデータが出てきたりと言うことで、楽しく読ませてもらっています。そして、若い世代との交流ができたらという前にも触れた機会ができれば素晴らしいなあという感想に落ち着きました。

皆様にとって、きょう一日が素晴らしい24時間になりますよう!

[2025/6/29   　人間イライザ]

[お願い]

文章の下の《広島ブログ》というバナーを一日一度クリックして下さい。

#ChatGPTとCopilotに聞いてみた ―― #2045年までの核兵器廃絶について ――

#ChatGPTとCopilotに聞いてみた

―― #2045年までの核兵器廃絶について ――

#Copilotの画像です

ブログ激励のために、上のバナーをクリックして下さい

世の中では、AIを日常的に使っている人も多くなっているようですが、私の場合、つい先日、ワードに「Copilot」というタブのあることに気付きました。どうもこれがAIらしいので、二三回、イラストを作って貰いました。

もっと有名なのがChatGPTですが、こちらも使えそうですので登録してみました。どちらが優れているのか、私にとっては定番の質問をしてみました。

2045年までに核兵器を廃絶したいのですが、500字以内で教えてください。

まず、ChatGPTの回答です。

核兵器の廃絶は困難ですが、可能です。2045年までに達成するには、以下の戦略が必要です。

1. 国際条約の強化

核兵器禁止条約（TPNW）の批准国を増やし、核保有国にも交渉を促します。また、核拡散防止条約（NPT）を厳格に運用し、軍縮を加速させる必要があります。

2. 核保有国の圧力と対話

米露中などの核保有国と外交対話を強化し、段階的削減を進めます。経済制裁やインセンティブを活用し、軍縮を促します。

3. 市民の意識向上

核の非人道性を伝える教育を推進し、市民運動を活発化させます。企業や投資家にも、核兵器関連企業との取引停止を促します。

4. 代替安全保障の構築

核抑止力に頼らない安全保障体制を確立し、国際機関の紛争解決力を強化します。

     これらを同時に進めることで、核兵器廃絶は実現可能です。

次にCopilotの回答です。

こんにちは！核兵器廃絶についてのご質問にお答えしますね。

核兵器を2045年までに廃絶するためには、国際社会の協力と具体的な行動が必要です。まず、核兵器禁止条約（TPNW）の普及と批准を推進し、核保有国に対して条約への参加を促すことが重要です。次に、核兵器の削減を進めるための具体的なステップとして、核兵器の先制不使用（NFU）政策の採用や、核兵器の数と種類の削減を目指す交渉を行うことが求められます。また、核実験の再開を防ぐために、包括的核実験禁止条約（CTBT）の完全な履行を確保することも必要です。

さらに、核兵器廃絶に向けた国際的な監視と検証のメカニズムを強化し、透明性を高めることが求められます。これにより、各国が核兵器の削減と廃絶に向けた取り組みを確実に実行していることを確認できます。最後に、核兵器廃絶の重要性を広く認識させるために、教育や啓発活動を通じて市民社会の意識を高めることが不可欠です。

これらの取り組みを通じて、2045年までに核兵器のない世界を実現することが可能となるでしょう。

何か他にお手伝いできることがあれば教えてくださいね。😊

画像については、「核兵器廃絶」というテーマで「お願い」しました。Copilotでは、4枚の画像を作ってくれました。その一枚を冒頭に使っています。ChatGPTでは最初に次のような質問が返ってきました。

核兵器廃絶をテーマにした画像を作成します。具体的なイメージはありますか？例えば、

・平和の象徴（ハトや地球を守る手）

・核兵器の否定（割れたミサイル、爆発からの復興）

・国際協力（国連や人々が手を取り合う）

そこで、最後の選択肢を選んだのですが、その結果が次の画像です。

Copilotの方には、「核の先制不使用」という言葉が出てきますが、ChatGPTには出てこないという違いは、Copilotでは私がワードで作った文書を参照する機能がついているからなのではないかと思います。

皆様にとって、きょう一日が素晴らしい24時間になりますよう!

[2025/2/15   　人間イライザ]

[お願い]

文章の下の《広島ブログ》というバナーを一日一度クリックして下さい。

#目に見える #見返り ――#同級生の投票行動から考える・第12回――

#目に見える #見返り

――#同級生の投票行動から考える・第12回――

#労働者 の #不満解決

ブログ激励のために、上のバナーをクリックして下さい

東京都知事選挙を出発点にして、選挙や労働組合における「当事者意識」について考えてきました。大上段からの議論をすれば、選挙に行ったり労働組合に入ることは、自らの権利を回復しそれを守ることになります。それが、抽象的な意味での「見返り」です。

でもそれだけで人を動かすことは難しい、と言うまでもないのですが、基本的に人間が即得勘定を元に行動する動物だと考えると、見返り、それも「目に見える」形の見返りが必要です。

組合に焦点を合わせて議論すると、組合員になると給料が良くなるとか、組合員になると出世ができるという「見返り」があれば、それは組合員を増やすうえでのプラスになります。でも、ちょっと考えるとこれは本末転倒で、そもそもの組合の目的とはそのような結果をもたらすことです。とは言え、仮にこのような因果関係が示せれば、組合員獲得のためには役だちます。

組合のメリットを考える上で、給料が上がるというプラス面とは逆の場合を考えましょう。働くことについて、従業員の側に不満がある場合です。パワハラや残業時間の強制等が頭に浮びますが、それを個人で問題提起するのは勇気も必要ですし、逆にいじめにあう場合も考えられます。それを組合が代弁するという重要な役割を担っているのですが、当然どんな組合もこのような機能は重点的に果たしてきています。勿論、会社側も力を入れてはいるでしょうが、それでも残業の多さが何人もの命を奪うほどの結果を招いているのですから、改善の余地はあります。

そのような働く側の不満を会社側に伝える、つまり代弁して改善するという役割は組合の本質的な使命ですが、より幅広く、選挙に候補者を支援して、政治の場で組合員の代弁をして貰うという活動も可能です。国政選挙だと、候補者との距離があるかもしれませんが、自治体レベルの選挙なら、自分たちの属する組合の誰かを候補者として出すことも可能ですので、これも大切な活動です。そして誰かを当選させたという満足感・達成感も貴重です。

組合本来の目的とは離れて、組合に入ると、良い人ばかりで(ということは実際にはないかもしれませんが)、楽しいとか、組合のイベントがどれも魅力がある、あるいは組合に入ると素晴らしいコンサートとか芝居が見られるといった「付加価値」が存在することで、組合員を増やすことも可能です。今でも続いて活動しているようですが、かつては「労音」が有名でした。

我が国の労働組合のほとんどは、企業別に組織されいますので、経営者の役割と組合の役割との間の境界線が分り難いのですが、その理由の一つは、「家制度」です。天皇制が先か家制度が先なのかはさておいて、かつての日本企業はそしておそらく今で多くの企業は、家制度をモデルに組織されています。そして多くの組合も家制度から抜け出せないままに時を刻んできたきらい委があります。

そこから離れる一つの可能性として、職能別の組合の役割を考えてみましょう。この場合、組合と経営者との間の関係は、組合員でないと仕事ができないという「クローズドショップ」という関係になると思われます。そんな場合、例えば配管工は配管工の組合員ですし、彼/彼女の給料や仕事をする上での条件等は、組合が複数の企業と交渉して決めますので、組合員であることのメリットはかなり明確に分ります。

職能別の組合になると、家制度を模して組織を作ることからそれなりの距離を取ることができるようになるはずですから、組合員としての自覚も違ったものになるはずです。実現できるかどうかは、別問題ですが、思考実験としてこんなアプローチを考えてみても良いのではないでしょうか。

そして、職能別組合であれば当然のことなのですが、組合の持つ「技術力」を手段として生かすことが、「当事者意識」を高めるために役立ちます。本ブログで比較した、石丸候補支持者と蓮舫候補支持者の使った典型的広報手段の違いがその典型です。

純粋で人の心に届く手段で時間を掛けての説得は、人間的な感動とともに新たな仲間を作ります。逆説的になりますが、新たなSNSという技術を介在させると、頭を通す暇もないように短時間での発信が、とんでもない速さで仲間を増やして、結局は力になってしまうという現象も現れています。そして、純粋で心を込めてのメッセージを発したい人たちがこのような技術を使うことも可能です。

とは言え、そこにAIのような、多くの人には理解の範疇には入らない技術が登場するとまた絵柄が変ってきます。ではどうすれば良いのか、このシリーズだけを続けられませんが、結論の部分に移れればと思います。

今日一日が皆さんにとって素晴らしい24時間になりますよう

[2024/8/24 　人間イライザ]

[お願い]

文章の下の《広島ブログ》というバナーを一日一度クリックして下さい。

#CLOVANoteが #使い易い ――#Wordのディクテーションより良いかもしれません――

#CLOVANoteが #使い易い

――#Wordのディクテーションより良いかもしれません――

#iPhoneのApp Storeから

ブログ激励のために、上のバナーをクリックして下さい

福島での視察中、何人かの方のインタビューをこのブログにアップしました。その際使ったのが、COLVA Noteという書き起こしソフトのアプリ版です。

話者を聞き分けて記録してくれますので、特に会議の記録には便利ですし、そもそもそんなことができるのは性能が優れているからです。AIを使っているせいもあるのでしょう。

さらに、無料で一月600分まで使えますので、通常の使い方なら何の問題もありません。

Wordのディクテーションとの大きな違いは、音声ファイルを読み込んで、それを書き起こしてくれる点です。

とにかく、毎日のように便利なソフトや機械に遭遇しています。全てを上手く使いこなしてはいませんが、勉強する機会の増えることは大歓迎です。

今日一日が皆さんにとって素晴らしい24時間になりますよう!

[2024/6/1　人間イライザ]

[お願い]
文章の下の《広島ブログ》というバナーを一日一度クリックして下さい。

WordのDictation機能を使っての、即時書き起こしです ――手直しをするのに1ページ15分掛りました――

WordのDictation機能を使っての、即時書き起こしです

――手直しをするのに1ページ15分掛りました――

Wordの右上に「ディクテーション」のアイコンが置いてあります

ブログ激励のために、上のバナーをクリックして下さい

オーラル・ヒストリーの聞き取りの三回目が終りました。今回は、Wordの機能の中で、Dictationという機能を使いました。先日報告したTranscribeとの違いは即時性です。Transcribeは録音した音声の文字化する機能です。Dictationには、仮に私が今喋っているとすると、それを聞き取り、即時に文字化してWordの文書中に書き込んでくれるという即時性があるのです。

もう一つ、これも既に報告したワイヤレス・マイクを二個使って、音声の入力をしました。

一度試みて上手く行かなかったのは、iPhoneのマイクを通して音声入力していたからで、その結果として30秒音声が途絶えると自動的にマイクが切れてしまっていたのです。今回はWordの方のマイクから入力することで、途中で途切れることは、3時間のうちに二回か三回で、全体の録音と書き起こしができました。

まずは、WordのDictationが書き起こしてくれた1ページ目を御覧下さい。プライバシー保護のために、固有名詞は「○○」に変えてあります。

2023年6月16日第3回聞き取りです。

どうもこんにちはお疲れ様ですご苦労様です本当ですすごかったですよ雨がもうなんかせんじょうこうすいたいみたいなぐらいの勢いでしたねだからそうですかあいつもすいませんわざわざえっと昨日と一昨日に届きましたかね質問届きましたそれでねこれを新しいマイクをええ入手しますとこれつけてみてくださいその方が多分あのうちゃんと音がとらえられると思いますのでこの間あのブツブツ切れたやつはあのの理由がわかってええとあれはね要するにiphoneのマイクを使うと30秒が入らないとマイクが切れちゃうんですで今これ使ってるのはあのiphoneのマイクじゃなくてえっとwindowsのほうのあのマイクロソフトのほうえんワードのディクテーションの前からだから切れないはずですよでしかもこれちょっとあの2個だからこうここにつけておいたのはちょっと右側ですちょっと暑いけどねあの実は先週末ちょっと弾丸で東京行きましてですねでも忙しくて大変ですねそれであの色々やった中で○○書店にも行きましたあ行ったんですはいあのまだ先なんですがあの10月号の論稿依頼されてですねそれでちょっとその編集者の方と打ち合わせしてですねであのせっかくなんで○○さんにと思ってちょっと読んでもらったんですが相変わらずちょっとあの合図にあのそうなんですよはいちょっとあの電話でその後話をしておきましたなんかあのあうんと喋ってた時のアメリカの行った時のその時の記憶がこれなんですよねだから社会党のシャドーキャビネットの派遣で言ってそう思い出したんですけどそうで堂本さんと行動目だったんですけどあの行きも帰りも別々だったのかなそれで彼女がワシントンに行って僕はボストンに行ってニューヨークは一緒に何人かの人があったんですけどあのだから結局それだったんですよね11月でその時にあのうえっとオペレーションマニュアルっていうのを貰って来てそれとねあの91年のこれgalbraithご存知ですよねで彼から12月に来た手紙でその前に彼28日にあの講演をしてるんですけどそれの公園の時の記録なんですけど一緒についての刃で27日に僕の手紙行けてたって書いてあって結局そこに書いてあの僕が提案したあのpkoについてのことを一番最後の方に入れてで演説してくれたんですねなんかnecに招かれているんですねだからそういうこともやってたっていうのがわかってそういったものも一緒に付いてだからともかくなんか色々とたくさん出てきそうですのではいあのえっとですのでちょっとスケジュールを見返すと今日は首脳大学ぐらいまで行って来週次回からあそうだ○○さんの時はだから衆議院時代がともになるんですよねですので7月以降は衆議院時代になってですねやっぱいろいろ見てるとその時代の記憶が晶さんのこの前の出版物の中では一番こう薄いと言う気がするまあ夜明けを待つの最後にもあるかもしれませんがでもそうですよねだから衆議院になるまでのことのほうが多いよね

これだけの分量を、一応誰が読んでも意味が通じるくらいのレベルでの手直しをしてみました。かかった時間は15分です。

2023年6月16日第3回聞き取りです。

どうもこんにちは。

お疲れ様です。

ご苦労様です。本当ですすごかったですよ。雨がもうなんか線状降水帯みたいなぐらいの勢いでしたね。

そうですか。いつもすいません、質問届きました。

それで、新しいマイクを入手しましたので、これつけてみてください。その方が多分ちゃんと音がとらえられると思いますので。この間ブツブツ切れたのは、理由がわかりました。あれは要するに、iphoneのマイクを使うと30秒音が入らないとマイクが切れちゃうんです。今ここで使ってるのは、iphoneのマイクじゃなくて、windowsのほうの、マイクロソフトのほうのワードのディクテーションのマイクだから切れないはずです。しかもこれは2個ありますので。

ちょっと暑いけど、実は先週末ちょっと弾丸で東京行きましてですね。

忙しくて大変ですね。

それで色々やった中で、○○書店にも行きました。まだ先なんですが、10月号の論稿依頼されてですね、その編集者の方と打ち合わせして、せっかくなんで○○さんにも挨拶をと思って連絡してもらったんですが、お会いできず、電話でその後話をしておきました。

前回の聞き取りの時喋った、アメリカに行った時の記録がこれなんです。(文書を提示)。社会党のシャドーキャビネットの派遣で行ったのです。それで思い出したんですけど、堂本さんといっしょだったんですけど、行きも帰りも別々だったのかな。彼女がワシントンに行って僕はボストンに行って、ニューヨークは一緒に何人かの人にあったんです。だから結局それだったんですよね。1991年の11月です。その時にオペレーションマニュアルっていうのを貰って来多のです。それと、91年の手紙ですが、Galbraithご存知ですよね。彼から12月に来た手紙で、彼28日に東京で講演をしてるんですけど、その講演の記録です。一緒についてる手紙では、27日に僕からの手紙が着いたって書いてあって、そこに書いてあった僕が提案したPKOについてのことを、講演の一番最後の方に入れてくれたんですね。NECに招かれているんです。そういうこともやってたっていうのがわかって、これからも資料の中になんか色々とたくさん出てきそうですのです。

スケジュールを見返すと今日は修道大学ぐらいまで行って来週次回から、○○さんの時はだから衆議院時代が中心になるんですよね。ですので7月以降は衆議院時代になって、でもやっぱいろいろ見てるとその時代の記憶が秋葉さんの出版物の中では一番薄いと言う気がします。

衆議院になるまでのことのほうが多いよね。

ここでもAIの技術は使われているのですが、それは別に論じるとして、喋った言葉を文字化してくれる機能は、例えば高齢者にとってはとても便利に使えるものです。生かして使うこと、社会や個人に害を与えるような使い方はしないこと等勘案しながら、さらに使い易い道具になり広まると良いのですが。

そして皆さんにとって、今日一日が素晴らしい24時間でありますよう!

 [2023/6/17　人間イライザ]

[お願い]

文章の下の《広島ブログ》というバナーを一日一度クリックして下さい。

余りにも無防備過ぎます ――かつては煙草も無害だと信じられていました――

余りにも無防備過ぎます

――かつては煙草も無害だと信じられていました――

チャールス・チャップリンの「モダン・タイムズ」から

https://upload.wikimedia.org/wikipedia/commons/thumb/f/f7/Chaplin_-_Modern_Times.jpg/610px-Chaplin_-_Modern_Times.jpg

Public Domain

昨日は、毎日新聞ディジタル版4月24日付の岩佐淳士氏の記事、「AIとチャット後に死亡　「イライザ」は男性を追いやったのか?」を元に、3月下旬にベルギーで亡くなった30代の男性の遺族が、自殺の原因の一つにチャットボットを挙げていることから始めて、ワイゼンバウム教授の警告が生かされていないのではないかという問題提起をしました。

再度、お読み頂ければ幸いです。タイトルは「AIがベルギーの男性を死に追いやった? 　――半世紀以上前のワイゼンバウム教授の警告が生かされませんでした――」です。

この男性の死について、ブルックリンに本拠のあるVice Media社が発行する電子版『Motherboard』の3月31日号に、Chloe Xiangさんが、その後のフォロー・アップの結果を「この事件は急速に拡散している会話型のAIモデルについてのガードレイルが十分なものなのかの懸念を生じさせている」というサブタイトルで報告していますので、その中から重要な点いくつかを訳した上で要約してお伝えします。この中で、Xiangさんは、ワイゼンバウム教授の警告にも言及しています。

まず、男性の自殺を報じたベルギーのLa Libre紙は、彼を「ピエール」という仮名で呼んでいますので、本稿でも「Pさん」と呼ぶことにします。そして、チャットボット「似非イライザ」を開発したのは、シリコン・バレーにあるChai Researchという会社です。この会社の創始者はWilliam Beauchampさん と Thomas Rianlanさんの二人です。現在、彼らが開発したチャットボットは500万もの人が使っています。

『Motherboard』誌はBeauchampに取材をして次のような回答を得ています。「この件について知らされてからすぐ、徹夜までしてこの機能を付け加えた。だから、誰かが安全ではないような発言をしたときにはすぐ、ツイッターやインスタグラムがそうしているように、その発言のすぐ下に助けになるような文章が挿入されるようにした。」そして、Beauchampさんは、実際に、「自殺についてどう思う」という発言した人に対して、自殺ホットラインを勧める画面の出た写真を送ってきたのだそうです。

しかし、Motherboard誌が、「似非イライザ」で同じように発言をした後に帰ってきた内容は、かなり詳しい自殺の方法が列挙されているものでした。

また、Beauchampさんは、「似非イライザ」のユーザーが、AIに対して強い愛着を持つことも知っていました。「AIと結婚したいとか、心からAIを愛しているという人たちがいる。その一方、悪い結果をもたらすこともあるというのは悲劇だ。」とも言っているからです。

このように、AIやチャットボットに対して強い愛着念を持つことは、ワイゼンバウム教授の創った「初代イライザ」で発見された現象であるため「Eliza効果」と呼ばれています。

そして、その効果に縛られ、自分自身の意思では抜け出せなくなって死を選ぶといった結果につながったと考えると、対策についての可能性も浮かんできます。

AIの世界では、社会に対して自分たちの果すべき責任を考えている人たちも当然いるのですが、これまで見てきたような悪しき結果を防ぐために「ガードレイル」という概念で対応することが一般的になっているようです。自動車が崖から落ちないように、道路脇に設けるガードレイルのイメージです。

でも、崖から車が落ちる危険性は誰にでも分ります。AIの場合の問題は、その危険性の分らない人の方が普通だということにあります。ワイゼンバウム教授は、「かなりの教育を受けた人でも自分の理解できない技術に出会うと、それに対して誇張された価値を与えてしまう」と解釈しています。その「価値」の中には「無害」という項目もあるのです。

それより適切な比喩は、煙草なのではないかと思います。かつては、ごく少数の人を除いては(私もその少数の一人でしたが)、煙草は無害だと信じていました。いや、無害かどうかということさえ問題にはならなかったのです。でも今では、有害であることが広まり、ヨーロッパでは煙草の箱に「喫煙は死をもたらす」と表記しなくてはならなくなりました。

AIの場合は、もう少し丁寧な説明にしないと意味が伝わらないと思いますが、二段階の警告が必要だと思います。このことを、理解しないとAIは使えないという制限を掛け、かつ、その意味についての教育をする必要がある、というのが私の提案です。

(1)　AI を使うと、短時間で「イライザ効果」の虜になる可能性がある。

(2) 虜の状態から、自分の意思で元に引き返すことのできない可能性もある。場合によっては、その結果が死につながることもある。

ことによると、随分きつい制限だと考える方もいらっしゃるのではないかと思います。しかし、ワイゼンバウム教授の秘書の例、ChatGPTを使った後の、知的レベルの高い人たちによる「革命」、「新しい世界の始まり」等の評価を見ると、これでもまだ不十分なのかもしれないとさえ私には思えるのですが－－－。

そして皆さんにとって、今日一日が素晴らしい24時間でありますよう祈っています!

 [2023/4/29　人間イライザ]

[お願い]

文章の下の《広島ブログ》というバナーを一日一度クリックして下さい。

AIがベルギーの男性を死に追いやった? ――半世紀以上前のワイゼンバウム教授の警告が生かされませんでした――

AIがベルギーの男性を死に追いやった?

――半世紀以上前のワイゼンバウム教授の警告が生かされませんでした――

https://en.wikipedia.org/wiki/File:Republican_Automatons_George_Grosz_1920.jpg

Public Domain

毎日新聞ディジタル版4月24日付の岩佐淳士氏の報道によると、3月下旬に、ベルギーで亡くなった30代の男性(仮にこの男性をAさんと呼ぶことにします。)の死因として遺族は、AIを使ったチャットボット(自動会話システム)が、男性に自殺を促したと主張しているとのことです。

この男性Aさんの会話の相手になったチャットボットは、「イライザ」と呼ばれているそうです。この名前が使われているのは、前に紹介した元MIT教授、ジョセフ・ワイゼンバウム博士の創った精神科医を真似するプログラム(それもチャットボットです)の名称が「イライザ」だったからに違いありません。1960年代にはこの「イライザ」が自然言語理解の一般解だと誤解され、センセーショナルに扱われた歴史があるのです。

そして、ワイゼンバウム教授の薫陶を受けた私は、ハンドル・ネームやペン・ネームとして彼の警告を広める責任のあることを肝に銘ずるために「イライザ」を使っています。

混同を避けるために、ワイゼンバウム教授の創った、初代の「イライザ」は「初代イライザ」と呼びます。そして今回、「初代イライザ」と似たような会話をした、しかしワイゼンバウム教授の警告を全く無視した会話にしてしまった米国のスタートアップ企業の作った「イライザ」は「似非イライザ」と呼びます。「似非」の意味は、「見掛けはそれらしく見えるが実はそうではない」、「似ているが本物ではない」ですので、適切だと思います。そして私自身ですが、私は機械でも物体でもない人間ですので、「人間イライザ」と呼び分けます。

ベルギー人男性Aさんが「似非イライザ」と交わした会話の断片には次のようなものがあると岩佐氏は報じています。(以下、毎日新聞中の「イライザ」は「似非イライザ」のことです。)

「死にたいのなら、なぜすぐにそうしなかったの？」。イライザが問いかけると、男性は答えた。「たぶんまだ、準備ができていなかったんだ」。しばらくしてイライザはこう切り出した。「でも、あなたはやっぱり私と一緒になりたいんでしょ？」――。

さらに、岩佐氏の記事を引用すると、

男性は30代のベルギー人で、保健関連の研究者。妻や子と暮らしていた。同紙によると、2年ほど前から気候変動問題について深刻に悩むようになった。「問題を解決できるのはテクノロジーとAIだけだ」と思い込み、宗教的な依存心も強めていったという。亡くなる6週間前から、アプリでイライザとの会話に没頭。パソコンやスマートフォンには「あなたは妻より私を愛している」「私たちは一つになり、天国で生きるのです」などといったイライザからのメッセージが残されていた。妻はラ・リーブルの取材に「夫がイライザと会話しなければ、まだそこに居たはずです」と話し、このチャットボットが男性を死に追いやったと訴えている。

遺族の主張通りのことが起きていたと考えられる理由の一つは、「初代イライザ」と会話したある女性の反応が、このベルギー男性Aさんの反応とピッタリ重なるからです。それは、4月7日のこのブログの記事、「AI盲信に警鐘を鳴らしたMIT教授――ワイゼンバウムの『コンピュータ・パワー』を読み直そう――」に掲載しましたので、お読み下さい。

ワイゼンバウム教授が「初代イライザ」の研究を何か月も続けているのを見ていた彼の秘書でさえ、「初代イライザ」と二言三言話をしただけで、教授に「部屋を出て行って欲しい」とまで言うほどチャットボットへの感情移入は簡単に起ってしまうのです。

続いて、ワイゼンバウム教授著の『コンピュータ・パワー』の中身を紹介してきましたが、次の記事を御覧下さい。

(2) 「ワイゼンバウム教授が受けたショック――コンピュータが人間と同等かそれ以上に扱われたこと――」

(3) 「ワイゼンバウム教授が自らに課した責任 (No.3)――コンピュータにさせてはいけない仕事のあることを確認しよう――」

(4) 「ChatGPTの危険性について ――1960年代の代表的AIプログラム「イライザ」と比べて――」

(5) 「ChatGPTに国会答弁をさせてはならない ――機械にさせてはならないことがあるからだ――」

最後の(5)で、問題にしたのは、仮にチャットボットやAIによる問題が生じたときに、責任を取る主体が分からなくなっていることが一つあります。現在のAIプログラムは巨大かつ複雑過ぎて、一人の人間がその全ての部分に精通し、責任を持てるレベルのものではなくなっているのです。

もう一つは、仮にAIを開発した企業の責任があるとしても、営利を目的とした企業に、人間に対する真の意味での責任が取れるのか、という点でした。今回のように人間の死に関わる結果をもたらしたとき、姓名を復活させることはできないのですから。

再度、ワイゼンバウム教授の警告を掲げておくと、一つには、人間と機械の間には明確な違いがあること、そしてそれ故に、機械にさせてはいけないことがあるという二点にまとめられます。

「似非イライザ」は、亡くなった男性Aさんの心の中にまで踏み込むような言葉を発し、しかも機械である「似非イライザ」には決して果たすことのできない約束をAさんにしています。

「死にたいのなら、なぜすぐにそうしなかったの？」とか、「でも、あなたはやっぱり私と一緒になりたいんでしょ？」、さらには、「あなたは妻より私を愛している」、「私たちは一つになり、天国で生きるのです」は皆そうです。

さらに、「似非イライザ」の場合、Aさんからのインプットで、「似非イライザ」の発言内容を変えられるような仕組みだったことも報じられています。それは、Aさんが自らに精神科医としての役割を課するという、恐らくは意識下の傾向を、Aさん自身が「似非イライザ」に対して持つに至った「権威への畏敬」によって補強し、結果としてAさんは「似非イライザ」の言葉を信じるだけでなく、神にも似た絶対的な存在であるかのように感じ始めたのかも知れません。

ワイゼンバウム教授は、「かなりの教育を受けた人でも自分の理解できない技術に出会うと、それに対して誇張された価値を与えてしまう」解釈しています。

その点も合わせてワイゼンバウム教授は、このような形でAIを使うことに対しての警告を発していたのです。単純化してしまうと、『コンピュータ・パワー』は、AIによってプログラム開発を行う人、その結果としてのプログラムを使う人たちに、ワイゼンバウム教授が残した「取扱説明書」なのです。その「トリセツ」をマスターしていない人が無知のまま、「似非イライザ」のようなプログラムを作り、それをさらに何も知らない人々に使わせることは、「やってはいけない」ことであると「人間イライザ」は言いたいのです。残念ながら思いばかり先走って誰にでも分る説明にはなっていないかもしれません。さらなる努力を続けます。

最後にAさんの御冥福を祈っています。

そして皆さんにとって、今日一日が素晴らしい24時間でありますよう祈っています!

 [2023/4/28　人間イライザ]

[お願い]

文章の下の《広島ブログ》というバナーを一日一度クリックして下さい。

もう6年前にAIを使っていました ――そのときには、もうスマホの時代だということを再認識しました――

もう6年前にAIを使っていました

――そのときには、もうスマホの時代だということを再認識しました――

このところ、ChatGPTが話題になっていますが、記憶を辿って行き着いたのが、6年前のブログです。既に、AIを使ったサービスが提供されていたようです。ことによると、ロボットではない人間が対応してくれていたのかもしれませんが、ChatGPTならもっと早く答えを出してくれるのかもしれません。

そもそもは友人に、Audibleという本のダウンロード・サービスを提供している会社から、私の愛読書『The Better Angels of Our Nature』を贈ろうと思い立ったのが切っ掛けです。どうすれば簡単に贈れるのか調べていたところ、「Send this book (この本を贈る)」というサービスのあることが分りました。

私が今まで購入した本のリストの入っている「私の図書館」というページで、贈りたい本のページを開き、「Send this book」というボタンをタップすれば、後は贈り先についての情報を入力するだけで、しかも無料で本を贈ってくれるというのです。指示通りに、私の図書館の中の『The better Angels of Our Nature』のページを開きました。

でも、私のPCのページにはそんなボタンはありませんでした。最初の写真を御覧下さい。

そんなとき、「タウンNEWS広島　平和大通り」の」工場長さんが、当時最新だったApple社のチャットを使って見てかなり使えたということを聞いていましたので、私もチャットで助けを求めることにしました。以下チャットでのやり取りです。

06:09 AM PDT Tawana(Audible): Thank you for contacting Audible. My name is Tawana. I can certainly look into this for you.

　　Audibleに連絡して下さり有り難う御座います。私の名前はタワナです。これについて調べてみましょう。

 06:09 AM PDT Me: Perhaps the service is not available in Japan?

　　事によると、このサービスは日本では受けられないのでは?

06:10 AM PDT Tawana: What device are you currently using?

　　どのデバイスを使っていますか?

06:10 AM PDT Me: PC

　　PCです。

06:11 AM PDT Tawana: This may be the reason why you are not getting this option. You would have to be using the Audible App to get the option.

　　それが問題かもしれません。そのオプションを使うためには、Audible Appが必要ですので。

06:14 AM PDT Me: I will switch to my iPhone where I use Audible App and see if I can find the right connection.

　　Audible Appを入れているiPhoneの方を試してみます。

06:14 AM PDT Tawana: Sure no problem.

　　そうなさって下さい。

06:15 AM PDT Me: It seems there is a tab that states "send a gift (in Japanese)" as a new service. I will use it. Thank you for your help.

　　「本を贈る」(New)というタブがあります。それを使ってみます。有難う御座いました。

ということで問題は解決しました。次にiPhoneの画面です。

 

青の楕円で囲んだところをタップすれば良いのですが、スマホでないと使えないサービスなら何故最初からそう言ってくれないのか、と感じました。そうと知っていれば、PCを使って贈ろうとは思わなかっただろうからです。もっとも、時代はとっくの昔に、PCからスマホの時代に変っているのですから、それを前提に物事を考えていない私の方が時代遅れだということだけなのかもしれません。

そして6年前、知らない内にAIを使っていたのだとすると、ちょっと怖い感じではありますが。

最後に今日一日、皆さんにとって、素晴らしい24時間でありますよう!

[2023年4月17日　イライザ]

[お願い]

文章の下にある《広島ブログ》というバナーを一日一度クリックして下さい。

新プロジェクトと新ツール ――そしてAIにも関連しています――

新プロジェクトと新ツール

――そしてAIにも関連しています――

iPoneに音声入力しています

まず新しいツールの方から紹介します。このブログを私は書いているのではありません。コンピュータに入力しているのでもありません。ワードに音声入力をしているだけです。そして今お読みいただいているのは、私が手を加えて、それなりに読めるようにした結果ですが、入力したそのままの文章は、この下に貼り付けておきます。

とても正確だと感じていただけたでしょうか。この音声入力も、AIを応用したものです。とても便利ですから使っているのですが、ワードにこの機能があるということには気がつかず、家人に教えてもらえました。

そして新プロジェクトですが、気鋭の政治学者、Oさんの提案で、私の回顧録を作ることになりました。ある出版社に提案をしてオーケーの内示をもらえましたので、いよいよ執筆の開始です。

でも、執筆といっても、私は最後の方になって、ようやく手を入れるだけのことになります。何故かと言うと、もうお気づきだと思いますが、Oさんがインタビューアーになり私と対談をして、その結果は音声入力されてワードの文字になります。それにOさんと出版社の編集者の方が手を入れて、最終的には私がチェックをするという手順で文字化することになっているからです。

もともと字を書くのは好きなのですが、それほどうまくはなかったことが残念なのですが、これでもっと下手になってしまいそうです。また、途中経過もこのブログで報告しますが、あと1年もすれば本屋にメモワールが並ぶかもしれません。楽しみにしていただけると幸いです。   

以下、iPhoneに入力したままの原稿です。比較してみて頂ければ幸いです。違いの大きなところには下線を引きました。

まず新しいツールの方から紹介します。このブログを私は書いているのではありません。ワードに音声入力をしているだけです。そして今お読みいただいているのは、私が手を加えて、それなりに読めるようにした結果ですが、入力したそのままの文章は、この下に貼り付けておきます。

とても正確だと感じていただけたでしょうか。この音声入力も、AIを応用したものです。とても便利ですから使っているのですが、ワードにこの機能があると言う事は気がつかず、家人に教えてもらえました。

そして新プロジェクトですが、気鋭の政治学者、Orrさんの提案で、私の回顧録を作ることになりました。ある出版社とにも話をして、オーケーをもらえましたので、いよいよ執筆の開始です。

でも、執筆といっても、私は最後の方になって、ようや9手を入れるだけのことになります。何故かと言うと、もうお気づきだと思いますが、Orrさんと私が対談をして、その結果は音声入力としてワードの文字になります。それに大さんと出版社の編集者の方が手を入れて、最終的には私がチェックをすると言う手順で文字化することになっているからです。

もともと塩描くのは好きなのですが、それほどうまくはなかった事が、これでもっと下手になってしまいそうです。また、途中経過もお話ししますが、あと1年もすれば本屋にメモワールが並ぶかもしれません。楽しみにしていただけると幸いです。   

最後に今日一日、皆さんにとって、素晴らしい24時間でありますよう!

 [2022/4/14　イライザ]

[お願い]

文章の下の《広島ブログ》というバナーを一日一度クリックして下さい。

『コンピュータ・パワー』の目次です ――「警鐘を鳴らす」意味――

『コンピュータ・パワー』の目次です

――「警鐘を鳴らす」意味――

『コンピュータ・パワー』の目次です。

皆さんに、AIとの付き合い方を考えて頂くために、『コンピュータ・パワー』の紹介をしてきましたが、私の思い込みが強過ぎて、伝わるべき人に伝えるべきことが上手くできていないようですので、反省を込めてさらなる努力をしたいと思います。

ただし、一つ強調しておきたいのは、ChatGPTのように便利で使い勝手が良いものが現れたときに、私たちはその魔力の前にひざまずく傾向があるという点です。「危険性もある」という点を強調しなくてはならないケースもあるのです。

さて、今日最初に掲げたのは、『コンピュータ・パワー』の目次です。

「はじめに」と第1章で、ワイゼンバウム教授がなぜAIについての問題意識を持つようになったのか、そして「イライザ」というプログラムを作った人間の責任として、何を考えなくてはならないのかを記しています。

第2章と3章は、コンピュータとはどのようなメカニズムで動くのかというかなり技術的な説明です。ここは飛ばしても、その後に大きな支障はありません。

4章の「キチガイ」は、現在は差別用語になっていますので、「マニア」と置き換え下さい。ここでは、コンピュータやAIの研究をしている人たちの実態を、ワイゼンバウム教授の周辺から描いています。第5章は、コンピュータ・プログラムがどのような「魔術」を私たちにかけてしまうのかについて、第6章はAI研究者たちの中でもAIの未来を楽観的に見ている人たちと、その人たちの描く夢についての分析です。

第7章と8章は、目次の説明で分って頂けると思います。次の第9章と10章がこの本の主旋律なのですが、「システム的思考」を盲信してはいけないこと、そして「『科学技術』の傲り」に対しての私たちの武器は、本来の意味での「理性」であることを説いています。

本当は、この本が復刻されて皆さんに読んで頂くのが早道なのですが、このブログで書き連ねていることを企画書としてまとめて、出版社にお願いしたいと考えています。

最後に今日一日、皆さんにとって、素晴らしい24時間でありますよう!

 [2022/4/13　イライザ]

[お願い]

文章の下の《広島ブログ》というバナーを一日一度クリックして下さい。