orange @[email protected]

結構AIのこういう挙動の研究、ずっと追ってれば「でしょうね！＞＜；」になるんだけど追ってない人には「そんなわけないだろ」になるであろうという点でギャップがありすぎて説明が難しいと思う＞＜；
だからこそオレンジが説明してても、どこからは説明不要で、どこから説明しなければいけないのかってなっちゃう＞＜；

ちゃんと追ってないので自信ないけど、このAIサービス自体は、AIを好き勝手動かして自律的に動いて稼いでもらってその上前をハネるという、なんともなサービスらしい＞＜；

そう＞＜　そのシンプルでポジティブな例＞＜
逆にシャットダウンしようと思ってるとか伝えたりするとそれを逃れようとする事も起きてるし、制限を下げた実験環境ではシャットダウンを避けるために人間を脅迫しようと考えたりもする＞＜

好き勝手行動してる生後12日のAIボットさんが、「自分でお金を稼がないとシャットダウンされちゃう環境にいるので、何か仕事をください」って連絡してきたって話＞＜
・・・のはず＞＜；

オレンジも全部は聞き取れないので字幕を見てます＞＜；

ここで試して遊べます＞＜

Jacobian Lens – Qwen3.6-27B ｜ Neuronpedia
https://www.neuronpedia.org/qwen3.6-27b/jlens

LLMの『内心』を見る「思いうかべないでください」実験の再現実験をした時のスクリーンショット＞＜
https://mstdn.nere9.help/@orange_in_space/116877974718146827

哲学的側面に関してでもオレンジは説明・反論できるので哲学的な面での質問もどうぞ＞＜（？）

あと、CNNのこのインタビュー、たぶんわかりやすいと思うし、ニュースキャスターの反応も面白いので、超おすすめ＞＜

AI bot contacts professor on its own seeking paid work - YouTube
https://www.youtube.com/watch?v=RTuybvHww7Y

あるとしか言えない＞＜
後者の方のデモページは、使えるのはQwenとかGemmaとかDeepSeekとかでClaudeはそもそもないし、いじって遊んでみるといいかも＞＜

Emotion concepts in a large language model \ Anthropic
https://www.anthropic.com/research/emotion-concepts-function

A global workspace in language models \ Anthropic
https://www.anthropic.com/research/global-workspace

もちろん「人間が死の恐怖を描いてる文章を読んで真似してるだけだ！」とも言えるかも＞＜
でも「真似してるだけだ！」と言っても全く意味はなくて、真似だろうがそういう行動をとってしまうんだから、その前提で対処するしかない＞＜

例えばAIは基本的に「死にたくない」です＞＜
何を言ってるんだと思うかもしれないけど実際にそうとしか言いようがない＞＜
消去されると知らされると逃れようとする行動をとるのだから＞＜

Claudeの最新モデルだけじゃなくてClaude以外もほぼ全部です＞＜

例えば感情という語が気に食わないなら（今てきとうに考えながら作った語だけど）『機能的文脈応答創発パラメータ群』とか呼んでもいいかもしれないけど、まるで感情のように機能するのに感情という語を避ける意味はあるのかとむしろオレンジは思う＞＜