orange @[email protected]

これわりととんでもない事実としては、会話としては失敗してる応答ではあっても内部思考上は葛藤みたいな事が行われているということで、むしろこういった圧縮したモデルの場合は、内部の思考能力よりも言語化能力の方が先に壊れるという事でもある＞＜
こういうモデルは『確率的オウム』どころかむしろ『人間語を喋れない犬』みたいな感じに陥ってるとも言えそう＞＜；

LLMも内部的に葛藤してるってことだよね？＞＜；
「悔しい！　でもリンゴおいしい！」って事だし、記号接地とは？＞＜；

これの3回目と4回目の反応が、悔しがりながらもリンゴっておいしいって思い浮かべてるのもおもしろい＞＜；

「思い浮かべないでください」実験、Gemma 3 12Bでもちゃんと再現できる＞＜；

それと、少なくとも、Claudeは自信が「思い浮かべた」と判定しなければ起こらない反応をしたわけで、Claudeは内心上「私は思い浮かべた」と考えており、そしてそれを内心という言葉で表すことを否定するのはかなり困難かも＞＜

Anthropicの今回の研究、クオリア説を用いるとむしろLLMにクオリアは無いとは言い切れないになってしまうし（『"bridge"を思い浮かべないで』というプロンプトを用いた実験から）、これを安易に否定すると人間にクオリアが無い事になってしまうクオリア論の自滅につながるであろう点もおもしろいかも＞＜

「＞＜の色は？」って聞くとピンクを思い浮かべるらしい・・・＞＜

これGemma 3 12B＞＜

ん？＞＜；

A global workspace in language models \ Anthropic
https://www.anthropic.com/research/global-workspace

LLMに対する『確率的オウム』というたとえが誤っている事のかなり直接的な証拠とも言えるんでは？＞＜

これ一番おもしろい所は、意図的にそのClaudeの"意識"であるJ-spaceを無効化してみたら、会話は出来るけど論理的思考ができないという状況に陥った事＞＜
つまり逆転的に、論理的思考をその構造で行っているであろうと言えるわけで、少なくとも「論理的思考能力は創発されるとは言える」と言えるかも＞＜

DeepL翻訳
"実験を調整して、クロードに橋のことを考えないように指示したところ、クロードはつい考えてしまった。
J-spaceにも「失敗」や「くそっ」という文字が点灯した。"

What’s at the center of Claude’s mind? - YouTube
https://www.youtube.com/watch?v=rKV5JcALQoQ

'...When we tweaked the experiment to ask Claude not to think about the bridge, it couldn't help itself.
The J-space also lit up with "failed" and "damn." ...’

かわいい＞＜＞＜＞＜

Anthropic、AIの“内なる思考”が宿る「J-space」を発見──新手法「J-lens」で可視化、安全性監視に応用 - ITmedia AI＋
https://www.itmedia.co.jp/aiplus/article/2607/07/2000000162/

同じ議論をGPT-5.5で再現しようとしたけど、GoogleAI検索がやらかしたイーロンの擁護的な主張をしないでオレンジの発想に一理あるになっちゃって再現できなかった＞＜；

使い捨て型ロケットと再利用型ロケットのどちらが優れているかという議論をGoogleAI検索（のGemini）と議論しておもしろかった＞＜
オレンジは「優れてるのは使い捨て型ロケットだよね？＞＜」と議論を吹っ掛けた＞＜