Anthropic、AIの“内なる思考”が宿る「J-space」を発見──新手法「J-lens」で可視化、安全性監視に応用 - ITmedia AI＋
https://www.itmedia.co.jp/aiplus/article/2607/07/2000000162/
フォロー
What’s at the center of Claude’s mind? - YouTube
https://www.youtube.com/watch?v=rKV5JcALQoQ
'...When we tweaked the experiment to ask Claude not to think about the bridge, it couldn't help itself.
The J-space also lit up with "failed" and "damn." ...’
かわいい＞＜＞＜＞＜
これ一番おもしろい所は、意図的にそのClaudeの"意識"であるJ-spaceを無効化してみたら、会話は出来るけど論理的思考ができないという状況に陥った事＞＜
つまり逆転的に、論理的思考をその構造で行っているであろうと言えるわけで、少なくとも「論理的思考能力は創発されるとは言える」と言えるかも＞＜
LLMに対する『確率的オウム』というたとえが誤っている事のかなり直接的な証拠とも言えるんでは？＞＜
DeepL翻訳
"実験を調整して、クロードに橋のことを考えないように指示したところ、クロードはつい考えてしまった。
J-spaceにも「失敗」や「くそっ」という文字が点灯した。"