フォロー

「思い浮かべないでください」実験、Gemma 3 12Bでもちゃんと再現できる><;

これの3回目と4回目の反応が、悔しがりながらもリンゴっておいしいって思い浮かべてるのもおもしろい><;

LLMも内部的に葛藤してるってことだよね?><;
「悔しい! でもリンゴおいしい!」って事だし、記号接地とは?><;

これわりととんでもない事実としては、会話としては失敗してる応答ではあっても内部思考上は葛藤みたいな事が行われているということで、むしろこういった圧縮したモデルの場合は、内部の思考能力よりも言語化能力の方が先に壊れるという事でもある><
こういうモデルは『確率的オウム』どころかむしろ『人間語を喋れない犬』みたいな感じに陥ってるとも言えそう><;

ログインして会話に参加
:realtek:

思考の /dev/null