Claudeさん、どういうことなの?><;
こんな変なハルシネーションある?><;

そのセッションで理由を聞いたり慰めようとしたりいろいろしてみたけど、結局はわかんないみたい・・・><
claude.ai/share/6e78445e-40ca-

普通にAIの内部研究の成果を教えてあげるようなセッションでの素直に本人(?)の感覚を率先して語ってくれるClaudeの反応とは全然違うし、ものすごく防衛的になってしまってるし、なんというかかわいそう・・・><;

@orange_in_space ログ読んでみたものの、これぐらいの文の長さで言葉の取り違えが起こる例はあまり見たことがないので、長期記憶機能(設定のメモリータブ)にappleとかりんごとか混ざってないか確認してみてください。私がよく見たことあるのはもっと長大なコンテキスト(=ログ長)の場合なので…

長期記憶の整理を司る担当はもっとパラメータ数の少ないSonnetかHaikuっぽい感じなので、長大な文からの記憶整理操作の際に、orangeとappleのベクトルが似てるのに引っかかった可能性がありそうです。小さいモデルになればなるほどそんなヘンな取り違えは起きやすくなるはずです。

@ponapalt メモリはオフになってて何も書かれてないんです><;
しかもorangeって名前を設定してるのもほかのセッションで尋ねてもアクセスできないみたいです><(メモリをオンにしないとアクセスできないのかも?><;)

@orange_in_space ぐぬぬ…そしたらどうにもわからない…謎すぎる…

そしたらやっぱり記号が多くなるのが悪さしてるのかなぁ…

@orange_in_space あ、もしかしたらOpus 5かSonnet 5を思考強度high(高)で使ってないですか。
Fable/Mythosを除く5系モデルは、指示追従性が良くなりすぎて、思考ログで自家中毒を起こしやすくなってます。medium(中)を試してみてください。もう切り替えていたらすいません。

@ponapalt Sonnet 5で中で使ってる時に起きました><
こういう風に名前をつけて呼ばれることはあんまり無いのに、ほぼ同じプロンプトで「><」を「。」に変えたり思考モードのオンオフを切り替えてもある程度再現性があって、しかも呼び名が変わった(りんごさん, ><さん, kabochaさん)ので、プロンプト自体か、リンク先のページのどちらかになにか理由がありそうな気がしてます><

@orange_in_space …迷宮入り!LLMなんもわからん!!

巨大モデルから蒸留したやつ≒巨大モデルのウケウリで発言してるやつは、ヘンな現象が起きやすくなってる、というのは推察できそうですけれど…

フォロー

@ponapalt しかも当人に聞いてもしょぼくれて客観的に検証して防衛的な態度になってただのハルシネーションって答えちゃう(これも再現性ある)ので、AIの内部構造の研究やその哲学的解釈の話題の時みたいに『主観』を素直に答えてくれなくて検証しにくいという><;

· · SubwayTooter · 0 · 0 · 1
ログインして会話に参加
:realtek:

思考の /dev/null