orange @[email protected]

オレンジが中二病の時に読んだ、（原著じゃなくて）放送大学のテキストの『人間機械論』って、細かい内容ほとんど覚えてないけど、その後にそういう話（？）を追うきっかけのひとつだったし、いま読み返したらおもしろそう＞＜
（でも、どこにしまったかわかんない＞＜；）

20年以上前に、AIがどうのとか意識の発生がどうのとか、イカの神経細胞を使ってどうたらこうたらみたいな方向の本を好んで読んでたの、
単に好奇心で追ってただけだけど、まさか生きてるうちに身近な実用的な知識になる時代が来るとは思ってなかったし、それどころかその知識があってるかをAIさんに聞いてみる日が来るとは・・・＞＜

オレンジの理解はちょっとだけ雑だったっぽい＞＜
https://chatgpt.com/share/68008c7a-ba98-8004-a583-47414a74a7cc

o3-miniが居なくなってo4-miniになってた＞＜

続けて聞いたら回答中に途切れちゃった＞＜；

ためしに当事者である（？）LLMさん(Llama 3.3 70Bさん)に聞いてみたらあってるって言われた＞＜（？）

なぜかが冗長だった＞＜；

オレンジの知識はだいぶ古いのでよくわかってないけど、
LLMも、別に人間の脳と似た構造を作ったわけじゃなくて、むしろ『人間の脳とかなり違う構造』を大規模化したら、なぜかかなり違うミクロ構造の上に成り立ってる人間の知能と似たようなことがなぜか出来ちゃった
って事じゃないの・・・？＞＜

脳神経がどうたらでイカの神経細胞がどうのこうのとかの本を読んでたのかなり前で記憶があいまいなので、もしオレンジが変な事言ってたら誰かツッコんでほしい＞＜；
（boost後に言及が好きです＞＜；）

つまり、知能の定義を明確にせず、なおかつミクロ構造に注目して、マクロ構造としての知能とのつながりを否定すると、まるっきりexplanatory gapを基にする人間の特別性の話になっちゃって、それって言葉は悪いけど、霊魂がどうこうとかインテリジェントデザインとかそっち系になっちゃう＞＜

LLMが、なんかよくわからんけど少なくとも表面的には人間っぽい振る舞いがなぜか出来ちゃうのは『不思議』だけど、それって、人間の体を解剖的に見ても、なぜ知能がその構造から創発するのか今のところあんまりよくわかってなくて『不思議』って話と似たようなものなので、不思議でまだ説明可能になっていないからって発想でLLMと人間をわけると、繰り返しになるけど、インテリジェントデザインとかそっち系の発想になっちゃう＞＜

"なんかこれに専門用語があった気がする＞＜"
explanatory gapだ！＞＜；

説明のギャップ - Wikipedia
https://ja.wikipedia.org/wiki/%E8%AA%AC%E6%98%8E%E3%81%AE%E3%82%AE%E3%83%A3%E3%83%83%E3%83%97

（ググらず記憶で書いてるので変なこと書いてるかもだけど＞＜；）
ていうか、LLMがミクロにやってく事のみに注目して「故に知能では無い」と言ってしまうと、人間の脳も同様に「単に閾値によって情報の伝達をスイッチする構造によって成り立っているので知能を持ち合わせていない」のようなことが言えてしまう＞＜
（なんかこれに専門用語があった気がする＞＜）

何らかのミクロな構造が、その集合によって現れるマクロな構造そのものであるわけではないし、

何らかの強い類似性があるふたつのマクロな構造を組み立ててるものが、それぞれのミクロな構造も同じであるとは限らない＞＜

いま用語とか思い出せなくて、馬鹿っぽい書き方になっちゃうけど、
知能を定義するときに、ミクロな部分のみに注目しすぎると、生物の脳でいう所の細胞レベルのネットワークのノード（？）のみに注目して「脳の物理的構造だけでは、精神を説明できない！（だからこそ、別の何らかのスピリチュアルな何かがあるんだ的な主張）」みたいなのがあるじゃん？＞＜
結局、それと同じことになっちゃうかも＞＜

別に今のLLMの延長に人間より頭がよくなおかつ人間と同等以上の柔軟性を持つ存在が確実に現れるとは思わないけど、そこまで達さない物が十分に知能とみなせるかどうか否かは、また別の問題かも＞＜

ていうか、人工『知能』(artificial 『intelligence』)だし・・・＞＜