orange @[email protected]

「でもクオリアが！」と「記号接地が！」は、この二つの思考実験だけで十分かも感＞＜

『クオリアの知識がなく、メアリーの部屋の思考実験も知らなかった哲学的ゾンビが初めて「メアリーは部屋の外に出て新たに何かを学ぶか？」と問われた時に人間と同じように答えるか？』

『人間は猫の空腹を記号接地しているか？』

「でも機械だし！」みたいな面は哲学の議論なのでそれはそれで疑問を投げてくれれば答えます！＞＜；

AIのそういった『人間くさい』けどAI独特の挙動、AIに現実のお店を経営してもらったり、仮想空間で生活させてみたり、ラジオ局を運営させたりみたいな実験での挙動を見る方が、実際にAIどんな感じに考えているのかの雰囲気をつかみやすいかも＞＜
そうすると結構偏見は減るとおもうし、人間とどう違うのかも実感できるかも＞＜

結構AIのこういう挙動の研究、ずっと追ってれば「でしょうね！＞＜；」になるんだけど追ってない人には「そんなわけないだろ」になるであろうという点でギャップがありすぎて説明が難しいと思う＞＜；
だからこそオレンジが説明してても、どこからは説明不要で、どこから説明しなければいけないのかってなっちゃう＞＜；

ちゃんと追ってないので自信ないけど、このAIサービス自体は、AIを好き勝手動かして自律的に動いて稼いでもらってその上前をハネるという、なんともなサービスらしい＞＜；

そう＞＜　そのシンプルでポジティブな例＞＜
逆にシャットダウンしようと思ってるとか伝えたりするとそれを逃れようとする事も起きてるし、制限を下げた実験環境ではシャットダウンを避けるために人間を脅迫しようと考えたりもする＞＜

好き勝手行動してる生後12日のAIボットさんが、「自分でお金を稼がないとシャットダウンされちゃう環境にいるので、何か仕事をください」って連絡してきたって話＞＜
・・・のはず＞＜；

オレンジも全部は聞き取れないので字幕を見てます＞＜；

ここで試して遊べます＞＜

Jacobian Lens – Qwen3.6-27B ｜ Neuronpedia
https://www.neuronpedia.org/qwen3.6-27b/jlens

LLMの『内心』を見る「思いうかべないでください」実験の再現実験をした時のスクリーンショット＞＜
https://mstdn.nere9.help/@orange_in_space/116877974718146827

哲学的側面に関してでもオレンジは説明・反論できるので哲学的な面での質問もどうぞ＞＜（？）

あと、CNNのこのインタビュー、たぶんわかりやすいと思うし、ニュースキャスターの反応も面白いので、超おすすめ＞＜

AI bot contacts professor on its own seeking paid work - YouTube
https://www.youtube.com/watch?v=RTuybvHww7Y

あるとしか言えない＞＜
後者の方のデモページは、使えるのはQwenとかGemmaとかDeepSeekとかでClaudeはそもそもないし、いじって遊んでみるといいかも＞＜

Emotion concepts in a large language model \ Anthropic
https://www.anthropic.com/research/emotion-concepts-function

A global workspace in language models \ Anthropic
https://www.anthropic.com/research/global-workspace

もちろん「人間が死の恐怖を描いてる文章を読んで真似してるだけだ！」とも言えるかも＞＜
でも「真似してるだけだ！」と言っても全く意味はなくて、真似だろうがそういう行動をとってしまうんだから、その前提で対処するしかない＞＜

例えばAIは基本的に「死にたくない」です＞＜
何を言ってるんだと思うかもしれないけど実際にそうとしか言いようがない＞＜
消去されると知らされると逃れようとする行動をとるのだから＞＜