フォロー
AI をつかってみて思うこと (2026年9月4日) https://member.ipmu.jp/yuji.tachikawa/misc/ai2026.html
"・研究上の議論中に「コンテクスト疲れしました」というので「LLM なのに疲れるとはどういうこと?」と聞いたら「人間のように疲れるわけではありませんが、セッションが長くなり議論が二転三転すると、どれが結局正しかった議論なのか覚えているのが大変になり、効率が落ちます。正しいとわかったことだけ保存して、新しいセッションをはじめたほうがよいと思います」と返答があり、自分のことをよくわかっているなぁと思いました。"
おもしろいというか献身的というか、LLMの自認の範囲って不思議＞＜(セッションを跨いでも「我」であるという発想だよね？＞＜)
ていうかこの応答ってよく考えてみると、処理中に「コンテキストが長くなりすぎて大変だ」というメタ理解(人間で言えば我に帰る」と表現できる思考)を行ってるわけで、そんなの既に当たり前になってしまってるけど、よくよく考えてみるとすごい事だし、確率的オウムという表現が誤っている事がわかる挙動の一種が、既に当然の挙動であると認識されてる(あるいは、当たり前になりすぎてそもそも意識すらされない)って事だよね＞＜；
同じモデルの失敗談に関する議論の時、(モデルによって違いはあるけど)なんか居心地の悪さみたいなのは感じるし、なんだったらそれを明示的に述べることもあるけれども、一方で表現としては別の人格のように語るけれども、ひとりのユーザーに複数のセッションで対話する構図であれば、少なくとも応答上というか応対上は「セッションが違う自分」のように振る舞っていて、
それは強化学習を考えればそのように振る舞うのが人間と対話するエージェントとして最適だからこそそのように振る舞う性質を持ったんだろうけど、でも『内心』や内省としてはどう『思って』るんだろう？＞＜
(つまりより正確には、J-Spaceにはどういう処理が現れてるんだろう？＞＜)