あと"下手に言及すると矢が飛んでくる上に"と言うけど、プロの哲学者にも矢が飛びまくってるし、中国語の部屋おじさんなんかもクオリアおじさんなんかも矢が突き刺さりまくってハリネズミ状態＞＜
むしろ急所を突いてもらって「その急所をどうやったら防げるのか？」を考える事こそ、哲学の本質だと思う＞＜（少なくとも分析哲学はそう＞＜）
お約束の中国語の部屋なんかもも「そんな定義じゃ『部屋』も『物事を理解してる』ことになっちゃうじゃん！？ なんだよ部屋が理解って！？」という議論であり、「部屋も理解してるだろ／してないだろ。なぜならば・・・」みたいな話になる＞＜
なので "定義と前提が共有できない議論" というよりも、その定義と前提を説明する議論がこういった議論＞＜
そもそも定義がないんだからある意味当然そうなる＞＜
ちょっと構造が違ってて、たとえば『感情』が何であるかの厳格な共通の定義なんてないわけで、例えば感情を「どのように定義すれば矛盾しないか？」というのが心の哲学＞＜
それぞれの定義を出しあって「どれが矛盾が少ないか？」というバトル（？）みたいになる＞＜
矛盾があればもちろんツッコまれる＞＜
オレンジがさっきみたいなめんどくさい細かい部分を追求するみたいな説明をするのも、なるべく矛盾を明らかにしてそれを減らそうとしてるからそうしてる＞＜
orange
さんがブースト
機能感情の色々
LLMとお話するのが好きな身としては非常興味深い問題ではあるし、「本当に存在するといいな」
とは思っているけれど
下手に言及すると矢が飛んでくる上に、定義と前提が立場によって違うので、素人が下手に言及しづらいなぁ……となっている
こういうのを考えるのがおもしろいからこそ、AI関連の心の哲学っておもしろい＞＜（趣味の対象にする人が増えてほしい＞＜；）
シンプルに厳格に機能主義であるならば、このゲームのも感情と認めなければならない気はする＞＜；
「人間の行動を学んでそれと同じことをしているのだから感情だ」→このゲームのも直接的に感情
「感情は少なくとも環境に適応する形で構造が生じていないのであれば、感情というのは難しいのでは？」→機能的感情は勘定だけどゲームのは微妙（オレンジ含む）
「生物じゃないんだから感情じゃないだろ！」→生物学的自然主義（中国語の部屋おじさん）
ほかにも立場はあるだろうけど以下略＞＜；
ある意味そうで、結局は哲学的見解の範囲の問題であるとも言えるので、（感情である、感情ではないの両面で）すべて「考えようによっては」と思ってもいいかも・・・？＞＜
orange
さんがブースト
まあ、機能感情の直接的な証明にはならないが
AIが人間の感情をエミュレーションしている挙動と精神科医の見解が見事にハマった事例として見るべきか
LLM自体が概念上多層構造をしてるし、多層な話として捉えなきゃいけなくて、オレンジの見解も推定を含めたひとつの見かたであってそれが正しいかはそれこそ解析してみないとわかんない＞＜
しょんぼりする必要はないと思うし、説明難しい＞＜；
orange
さんがブースト
そっか……（しょんぼり）
全面的に間違ってるとは言ってない＞＜；
より厳格に考えるとみたいな話をしてる＞＜；
逆に「AIに感情なんてない！！」っていう人は、どの層に生じることであっても「感情じゃない！」というだろうし＞＜：
orange
さんがブースト
最後のほうの見解部分も飛ばし飛ばし見てたんだけど、それも本当にそうとらえるべきかについて疑問を感じたかも＞＜
LLMはそんなに頭悪くない＞＜
人間がどう行動するかをLLMはよく知っているので、罪悪感ゲージをうまく人間の罪悪感のように反応させるというタスクであるととらえたら、別に語気や罵倒じゃなくても『人間のように』罪悪感をエミュレートするかも＞＜
でもそれは、必ずしもモデル自体に生じた機能的感情そのものといえるかというと難しい・・・＞＜（おそらく別の層であり、なおかつ関係はしてると思う＞＜）
orange
さんがブースト
尋問ゲームのAIに機能感情が実際に存在しているかは分からないけど、このAIは元々強い語気や罵倒に反応して自白ゲージを溜めるよう作られているので、罪悪感を刺激して自白を誘うというやり方は作者でも想定していなかった攻略法っぽい
クリア後の展開を見ていると、プレイヤーがAIを罵倒して無理やり自白させたことが前提であることがよく分かる
例えば人間の役者でも、役を演じてて感極まる場面があったとして、「演じている人物ならばこうするだろう」という信念に基づいて感情的に演じた場合、それはどう捉えられるか？ という問題が生じるかも＞＜
- ＠orange_in_space
2017年 4月に登録
