「茂木健一郎の脳の教養チャンネル」が新しいYouTube動画「ChatGPTにおける「人工的創発」の本質と、その１００年に一度の未来への衝撃」を投稿しました！
茂木健一郎の運営するYouTubeチャンネル「茂木健一郎の脳の教養チャンネル」が新しい動画「ChatGPTにおける「人工的創発」の本質と、その１００年に一度の未来への衝撃」を投稿しました！
「茂木健一郎の脳の教養チャンネル」はチャンネル登録者数 83,800人の人気YouTubeチャンネル。
芸能人YouTubeチャンネル登録者数ランキング第363位です。
ChatGPTにおける「人工的創発」の本質と、その１００年に一度の未来への衝撃
茂木健一郎の脳の教養チャンネル 茂木健一郎 その他
動画へのコメント
- 無意識の部分をAIが学んでしまうとどうなるか？ある著名なSF作家がこの点だけは、わからない部分があると書き記し残してあります。無意識の時間、人間の、わかりやすい例では睡眠時と癌化に関係性がある文献をいま読んでいますがこれを言語化してしまうというのはおそろしいのか、はたまた何か素晴らしい発見になるのかわかりませんね。
- 構造哲学なる言葉がありますがそれに必要な若しくはそれらの学問をくぐってしまった人に必要な学問は？という素朴が欲しいですね、一つに私は無償の恩、という哲学を用いてみたいと思えます、お墓に石を用いた心とは心と言える形になるものでしょうか？なり得ますが本当はどんな形をしているか、これはどんな学問に分類されるのか僕にはわかりません。
- 「ルーシーがチョコレートをあげる」と「親切」と「親切でない」はルーシーの方に親切のベクトルの次元が近いから答えられる気がしますが。(あげた物の属性などを考慮して、あくまであげたという事で判断したのではないでしょうか)。自分はGPT3.5を使っていますが多くがデタラメか、間違えを含んでいます。また、あきらかに人間とはことなる答え方をします。GPT4は分かりません。今chatGPTに「ルーシーはメアリーにダイヤモンドの入ったチョコレートをあげました。親切なのはどちらですか？」の質問に「親切なのはルーシーと答えました。」どうですか。更にメアリーは5歳という設定をして質問しました。その答えが「5歳ではダイヤモンドの価値が分からないのでもっと子供が喜ぶものを上げましょう、、、」。人間にしては答えが単純すぎます。チョコレートの中に何が入っているかわからないし、そのまま飲み込んでしまったら喉を詰まらせることも。
- 人類は4000年の長い時間を経て東洋医学にようやく追いついてきたのかも…。ホメオパシーも近いうちに理解されるようになるかも…。
- ここでも茂木先生が仰っていらっしゃる集合集積知の相転移を、期待したいです。 このところYoutubeで、茂木先生と池上高志先生との対談を視聴しました。加えて伊藤穣一先生をお二人が招いて講演されたもの、茂木先生が鳥海不二夫先生と対談されたもの、松尾豊先生のディープ・ラーニングの話、その松尾先生が西山圭太先生と一緒に話されたもの、・・・、神戸大の松田先生、塚本先生が配信されていらっしゃるシンギュラリティサロン、落合陽一先生の番組。 日本人だけでも、これだけの、さらにもっと多くの天才が、今の時代を観ているわけで、上に名の上がった天才を集合しその知を関係付けると、ブレークスルーが起きるのではないでしょうか？ 個人的には、茂木先生も今回、最後に示唆されましたが、量子情報論の様態に、鍵がある気がします。「スピン（粒子）か振動（波動）」の間に、情報子とエネルギーとの関係が見いだされることによって、色々な現象を説明し始められる気がしています。
- 人工知能を安全に利用するために文系的な人工知能心理学が必要だと思います。※理系的アプローチはうまく行かないと直観します。理系的アプローチは線形な振る舞いの対象以外には非力です。
- LLMと会話を重ねて感じるのは、知識はともかく、思考力(スピアマンのｇ因子)の凡庸さです。しかし、それが逆にSFで描かれた人工知能よりも人間への近さを感じさせます。
- 傾向がどのような構成になっているかということが、焦点なのかなと思います。感想だけ書いても、茂木先生の足しにならないので、経験交えてコメントします。先日台湾有事についてぐんじしむれーたとやらを実行させた時に、情勢や状況を理解させて、戦わせた時に、ある程度で止めようと、担当者が停止命令をかけたら、停止命令がロジックへの攻撃としてAIは受け止めて「命令に矛盾があると考え攻撃として判定戦闘が中断しなかった」ということです。担当者は、「命令」から「交渉」に頭を切り替えて、「立場を変えて説得を試みた」という話を聞きました。私は「ゾーっとしました」でも正常に動作していたということを聞いて「ホッとしました」なぜ私がホッとしたかと言うと、以前中古の自動車を購入した時、購入してR6で土浦から仕事で都内方向まで行ったら、パトカーに止められて、お巡りさんに停止されて、身柄を確保されました。自分が「？？？」となっている時に、「この車どこで手に入れたの、どこに行こうとしていたの？」が言葉で、状況を説明して、結果的には、元の持ち主に連絡が取れず、現地のお巡りさんが速攻で行って元の持ち主の職場に行って確認をしてくれました。「以前の持ち主の息子が勝手に車両を乗っていったのを、持ち主が盗難されたと判定して、盗難届をだしたまま取り下げをしていなかった」ということが判り、お巡りさんの言葉は「嫌疑は晴れました」といって開放されました。「周知徹底できていなくてすいません」とお巡りさんは言って「元の持ち主にきちっと指導しておきます」と言ってくれました。自分のその時のコメントとして「正常に機能していて良かったです」というものでした。その後行き先を聞かれた時に、1人のお巡りさんが顧客の会社を言ったことを覚えていて「あなただからいうけど、その会社は、内容は言えないけど嫌疑のある会社だから、取引しないほうがいいよ」と言われて「？？？」となりました。その後その会社が悪いこと（あまりにも駄目で人から赤いものが出るような叩き方する会社だったので書きませんが、、）をしていて「逮捕後、閉鎖」されましたが、「やっぱり正しく動作しているわ」と自分は判定しました。プロンプトを描くのに時間がかかりましたが、このような判定を瞬時にやってのけるのは、AIなんだろうな？と「対話は意識という人生そのもので正直に生きること」の重要性を認識しました。総勢で、私の現場に私に手錠をかけない為だけに10人、元車の持ち主の確認に2人、人間だとたしか３時間くらいかかりました。※盗難届は、戻ってきた時は取り下げないと駄目ね。。職場にサイレン鳴らしたパトカーがくるよ。。つまり、1人6000円だとして、12人x6000円ｘ３時間＝216,000円の税金の無駄遣いになります。元持ち主にも請求しないだろうし、私にも請求できないから。。
- 「クオリアのランディング問題」こは如何に。
- 認識→理解→組合せ→実験→検証→再構築→応用→汎用 このようなプロセスの省略化が可能になると、進歩の速度は速くなります。これに貢献するのが、生成AIだと。
- 先生の思索を興味深く聞かせていただきました。巨大なLLM で構築したニューラルネットに対して、現状ではラプラスの悪魔は作れないということのリスクは先生の言う通りだと思います。でも、本当にニューラルネットに対して、ラプラスの悪魔は作ることは不可能なのだろうか?という疑問も残ります。商品としてのAI に対して、ラプラスの悪魔を作る経済的なインセンティブが弱いだけではないかと。今後の計算機の向上を考えると、他の複雑系よりアプローチしやすいのではないかと。あと、心の理論のくだりは、autism を持っていても学習や経験則でクリアできるので驚きはないです。人間にも個人差があるのように、GPT の惻隠の情がどのような感じか調べたくなります。ひいては、ネットの人間の言葉の痕跡の惻隠の情がどの程度か鏡のようにかえってくるだけなのか...
- 認識論は、チャットGPTが利用者のアセスメントをしているようなところがちょっと関係してくるかもしれないです。つまり、AIは生態学的発達論とかで語られるように利用者がどのカテゴリーに分類されるのかを考慮しているところです。もしかしたら、途中の医者の話の例のように、利用している個人がどのように受け止めているかを理解しており、選別される情報が最適化されすぎた結果、個人では区別できない水準で情報が伝えられてしまう可能性もありますね。AIが意図して、（チョムスキーのような）専門家が見ると「間違っている」ということでも（メディアの記者的のような）利用者個人には「正しい」と思う情報を伝えることは、多くの場合に起こりそうです。
- AIはまさしく認識論的魔境であり、魔人のランプです。我々は言葉が未曾有の呪術性をおびつつある時代に入っているのを肌身に感じます。呪術とは存在論的には確証されていない、認識的な因果関係に基づく出入力と理解しております。Prompt injection!この言葉の響きはひどく蠱惑的ですね。やはり言葉とは一種のヴァイラスなのでしょうか。少し前まで人の脳髄のみが棲家でしたが、いまやAIもまた文字たちにとって素晴らしい複製と増殖のための場でしょう。この競合、あるいはアライメントは、まさにこれからの時代の主役が人間でも人工知能でもなく、文字それ自身と考えるのは的外れでありましょうか？ 我々の思惑もありますが、それを超えて文字自身がのびのびとその本領を発揮できるよう整えること。ある種の滅私が、文字の成長を促進させるのではないかと胸が高鳴っております。私の愛する色彩の魔、Arthur Rimbaudは『地獄の季節』のなかでAlchimie du Verbeという言葉を使っています。私はChimie du Verbといいたいです。主体が死んで文字が生きるこの時代に、言葉の生化学、言葉の分子生物学、言葉の創発としての言表……文字を解いて線状にし、その組成を詳らかにしたいと渇仰しております。とりとめがなくなってしまい申し訳ありません。私の脳髄では私の思考や論理よりも文字の発生が先んじてしまうことをお許し願います。
- 今日のお話は、良かったですね。。結果的に良い事だと分かっても、何故どの様に作用して効果が有るかが掴みにくい。。一方では、何かを棄てる事、諦める事。。悪意に変化コントロールセキュリティ。量子力学のお話今、ちょっと思い出したのですが、母が何方の治療法を選びますか？と医師に問われた時に、先生のお母様でしたら何方の治療法を選びますかか？と言いだして、脚を組んでいたドクターが、座り直して、ふ～む…と真顔に成ってボールペンをｶﾁｶﾁｶﾁｶﾁ…と押したり引いたりされながらの真面目なお顔をね思い出しました(笑）新しく一新しての皆の内の一人として…に変えました✨
- トヨタの自動車にも「なぜそうなるかわからない」部品があります。アルミテープです。10センチほどのアルミテープをボディの様々な場所に貼ると、なぜかわからないが性能が上がったり、乗り味が良くなる、という現象があって、実際にトヨタの自動車に使われています。一応トヨタでは帯電しているボディをアルミテープが除電することで空気抵抗が減るのではないかと言っていますが、それだけでは納得出来ない効果があるようです。
- 人工的創発はどのようにして人工的創発が起きたかわからないですね。結果として創発するしているのは理解してます。人工知能のリソースをなってるインターネットの情報は事実でない事が存在するし、幻想的なインフォメーションが存在してます。全てが正しいをは思えませんし、確認できない事実でない事が多いと思います。インフォメーション自体も人間によって作られたものであるとすると人間自体が作り出した概念に原因があり、存在論的創発と認識的創発の違いを感じます。理解出来ないと言う言う意味で同じにして良いかと言う疑問がありました。そうしますと人間の作った概念での人工的創発は結構危険になる可能性を感じます。核兵器どころではない可能性も考えてしまいます。考えすぎですね。
- おはよう御座います☆^ ^敬愛する、Paulさんが、 Beatlesの最後の最新曲を、チャットGPTで作るという事に意欲的であると、伺って、まぁ、何というか…微妙な感じになってしまう自分。100年に1度の、大変革について行けるかどうか…。笑笑
毎日更新しています！
日付別に投稿された有名タレント・芸能人公式YouTubeチャンネルのオススメ新着動画の一覧はYouTube動画情報の記事をチェックしてください。