orange @[email protected]

オレンジの今回の話(サプライザルへの対応がメタに表出してる説)は、LLMによる検証も行っていないので、あとでやってみてその事も書くね＞＜；

なにかに対するエアリプのようなのでエアリプとして書くけど、
LLMの挙動を理解するにはもっと何重にもメタな視点を持たないとダメかも＞＜
なんでかと言うと、LLMの実際の挙動自体がそういう構造によって組み立てられてるから＞＜

それらに関して自分で考える自信がある人がいたら、オレンジがつい最近思いついたおもしろい思考実験も解いてみて＞＜；
少なくともこれに無矛盾に答えられる(無料で使える)LLMは居なさそうな雰囲気＞＜

https://mstdn.nere9.help/@orange_in_space/116555015823037604

サプライザルを元に考える、中国語の部屋の誤解(実はサールは想定済みである(らしい))と、むしろその誤解を解くと論理破綻を起こして単なるチューリングテストにまで後退するって話はすごくおもしろい話であるし、ちゃんと論理で考えていくと導ける話であるので、考えるのおもしろいと思うよ＞＜

あと一応だけど、中国語の部屋は論理破綻している思考実験なので(世に出た時から指摘されてる)、それによってAIにせよ何にせよ、なにかを証明できるような性質はない＞＜
(むしろ論理破綻の指摘に使えちゃう)

これは、AI嫌いのみんなが大好きな(？)、中国語の部屋の思考実験(のほんのちょっと誤っている典型的な理解)から考えるとわかりやすいかも＞＜
中国語の部屋に、『一見、中国語のようだけど中国語としては崩壊しており辞書にない言葉』を投げ掛けたらどう応答する？＞＜

驚きというか、言葉の並びとしてのギャップみたいなの＞＜
布団がふっとんだ→驚かない
布団がエクスカリバー→「？？？？？＞＜；」
みたいな・・・＞＜(説明難しい)

つまり、LLMって、その仕組み上、驚けることがものすごく重要なので、そのLLMがメタに驚き表現が大袈裟になるのも、そりゃそうなりそうと考えることが出来る＞＜
なので、ただの流行りの言い回しと考えるのは考察不足かも＞＜
(もちろんオレンジの説が必ず正しいわけでもないけど＞＜(推論であって説明できるという話であって、現時点では十分に調査したわけではないので))

技術的に言えば、LLMって内部に驚きを評価する機構がメタに創発的にほとんど必ず形成される＞＜
なんでそうなるかというと、実用上から見れば、そうじゃないと未知語に対応するために必然であるのと、構造的理由からは、適切な語を選択する為に必然的構造であるから＞＜
(詳しく知りたい場合はサプライザルでググるか若しくはLLMにサプライザルって何って聞いて＞＜)

たぶんだけど、この表現が多いのだとすれば、、単位流行りの言い回しじゃなくて、LLMの構造上の特性からそうなるであろうと推測できるので、かなりおもしろい現象かも＞＜
(このオレンジの表現も、LLMっぽいかもたぶん＞＜)

そのデータを読みたい人向け＞＜
https://notestock.osa-p.net/@orange_in[email protected]/20260124/view#note_65b7054e0ef2c6ceb2a39c50e77160f0

つまり、Geminiが「日本の学校教育はデータ上も絶望的ではあるしむしろマイナスの教育効果を発揮していることを読み取れるけど、学校を無視してAIを先生にして学ぶって人が増えたら改善するかも」って言ってるのと同じだよね＞＜；

"...しかし、もしAI自体が「教師による教育」をバイパスするツールになれば、状況は変わるかもしれません。
「学校では教えてくれないけど、AIと議論してみたら数学が自分の趣味やビジネスに直結することが分かった」という、「学校を頼らない自律的な学習者」がどれだけ現れるか。..."

簡単に言えば、日本の小中高の教師の平均的な能力がどれほど酷く(権威主義的にしか教育できない、反論に答える能力を持たない)、どれほどマイナスの教育を行っているかという話でもある＞＜
髪色の指導みたいな話に限らず、よく話題になることで言えば、算数・数学に馬鹿げたジャッジなんかもそうだよね＞＜
掛け算に順序があるとかゼロ除算がゼロであるとか言うような教師がクビにならない事からしてもう学校がそういったマイナスの教育を行ってる歪みの現れなんだよ＞＜