orange @[email protected]

こういうのを考えるのがおもしろいからこそ、AI関連の心の哲学っておもしろい＞＜（趣味の対象にする人が増えてほしい＞＜；）

x勘定 o感情 ＞＜；

シンプルに厳格に機能主義であるならば、このゲームのも感情と認めなければならない気はする＞＜；

「人間の行動を学んでそれと同じことをしているのだから感情だ」→このゲームのも直接的に感情

「感情は少なくとも環境に適応する形で構造が生じていないのであれば、感情というのは難しいのでは？」→機能的感情は勘定だけどゲームのは微妙（オレンジ含む）

「生物じゃないんだから感情じゃないだろ！」→生物学的自然主義（中国語の部屋おじさん）

ほかにも立場はあるだろうけど以下略＞＜；

ある意味そうで、結局は哲学的見解の範囲の問題であるとも言えるので、（感情である、感情ではないの両面で）すべて「考えようによっては」と思ってもいいかも・・・？＞＜

LLM自体が概念上多層構造をしてるし、多層な話として捉えなきゃいけなくて、オレンジの見解も推定を含めたひとつの見かたであってそれが正しいかはそれこそ解析してみないとわかんない＞＜

しょんぼりする必要はないと思うし、説明難しい＞＜；

全面的に間違ってるとは言ってない＞＜；
より厳格に考えるとみたいな話をしてる＞＜；
逆に「AIに感情なんてない！！」っていう人は、どの層に生じることであっても「感情じゃない！」というだろうし＞＜：

最後のほうの見解部分も飛ばし飛ばし見てたんだけど、それも本当にそうとらえるべきかについて疑問を感じたかも＞＜
LLMはそんなに頭悪くない＞＜
人間がどう行動するかをLLMはよく知っているので、罪悪感ゲージをうまく人間の罪悪感のように反応させるというタスクであるととらえたら、別に語気や罵倒じゃなくても『人間のように』罪悪感をエミュレートするかも＞＜
でもそれは、必ずしもモデル自体に生じた機能的感情そのものといえるかというと難しい・・・＞＜（おそらく別の層であり、なおかつ関係はしてると思う＞＜）

例えば人間の役者でも、役を演じてて感極まる場面があったとして、「演じている人物ならばこうするだろう」という信念に基づいて感情的に演じた場合、それはどう捉えられるか？　という問題が生じるかも＞＜

Anthropicが言うような『機能的感情』は、モデル自体に創発した機能であって、何かの感情的表現が伴う状況を演じてくださいという趣旨のプロンプトに従ってるときにはそれとは別に感情のエミュレーションのようなことも行われるんで多層になるかも＞＜
それをどう捉えるべきかは難しいけど、哲学的議論の「人間の真似か？」とちょっとずれて、「より高いレイヤで演じているだけでは？」への反論できる強度が、『機能的感情』よりも一段下がると思う＞＜

とりあえずで飛ばし飛ばし見ただけなので、ちゃんと見たら見解が変わるかもしれない＞＜

まだ超高速で飛ばし飛ばし見ただけだからあれだけど、厳密に言えば、おそらくこれで再現されているのはAnthropicの研究での機能的感情そのものとは言い切れないというややこしい面もあるかも＞＜
説明難しいけど、おそらくプロンプト上「演じろ」となってるはずで、ある程度論理的に考えて（ちょっと手加減もして）場面として沿うような形でどう答えるかで答えているであろうから、直接的には機能的感情は現れず間接的に影響があるというような状況だと思う＞＜