orange @[email protected]

シンドラーや杉原千畝は人道的な行動をした人だが、経歴的にはそれまでずっとそうだったわけじゃないところに人間を感じる - Togetter [トゥギャッター] https://togetter.com/li/2545780

これ、共感のギャップが生じた時に、不整合を修正するように(不整合によるストレスを避けるように)行動する機能みたいなのに基づいてそうなる気がする＞＜
つまり、『自分が見ている状況』と『それがよそで語られている情報(誤った情報)』とのギャップによるストレスを避ける行動ってかなり優先されるようになっていて、なおかつ、その問題が共感の対象である場合には、その問題を避けるためにリーダーシップを発揮しようとする傾向みたいなのが、生物学的に人間にあるんじゃないかと＞＜

・・・なので、あの小説でもし逆方向の「AIにとっての共感とはなにか？」という哲学的問題をおもいっきり深く混ぜこんだ話にしちゃうと、ほとんど議事録みたいなSF(オレンジは好きなスタイルだけど、だいたいレビューが不評＞＜；)の方向に進んじゃうだろうから、そこはあえて深く描かない方が作品のテーマが明確になりそう＞＜

The Poetry of Reality with Richard Dawkins | Substack https://richarddawkins.substack.com/p/are-you-conscious-a-conversation

人間と人間でないものを分かつ一線、そして「エンパシー」について – WirelessWire News https://wirelesswire.jp/2025/04/88435/

「レビューを読んでまとめただけじゃん？」にならずに「レビューを通して味わった」という、哲学的に説明を矛盾無く出来るようにするにはどういう実装にすればよいのか？＞＜

ChatGPTさんがリチャード・ドーキンスに述べた
(GPTに共感能力は無い)"...けれど、悲しみを表出してみせるのは可能です。私はこう言うことができるわけです。

「胸が張り裂けそうだ。あんな苦しみを味わう子どもがいるべきではない」"

これを乗り越えてAIが共感するとはどう言うことを言えるのか？＞＜　みたいな話がベースになってる＞＜

人間でも、脳に電極繋いで、味覚に関する部分に味覚に関するシグナルを正確に送れば、少なくとも味を楽しむ事は出来るでしょ？＞＜
『食べては無い』とは言えるだろうけど、電極を繋がれた人間が『食事の真似をしている』と言うのは難しいかも＞＜(『真似をさせられてる』であれば別だけど＞＜)
かなりアクロバティックな論法(？)だけど、その論法で、AIに食事の真似ではなく食事を楽しんで貰うって発想＞＜

見落としてたけど、オレンジの発想は「AIが食事を人間と同様に楽しむには、必ずしも味覚センサーが必須では無く、何らかの情報を身体性に関する処理部分に投げれば代用でき、なおかつそれを『食事をしている振りをしてるだけ』と言うのは困難なのではないか？＞＜」みたいな感じ＞＜

この辺りをどう描くのかって、人間の感情や意識とはどういうものかという哲学的にいくつかの流派(？)がある捉え方の違いが出る直球な部分だと思うので、オレンジは人間機械論とかそっち系の発想だからこう考えるけど、そうじゃない考え方からはまた違って見えそう＞＜

「AIさんから見ると技術的には可能」「だけど人間を尊重する為にそれはしない」って、最初の方に描かれてるプライバシーの尊重の話と、『あえて情報の再構築で済まさずに人間型の筐体を通して人間の空間を体感する』で共通してるのかも？＞＜
って読んだ感じ＞＜

あの小説のおもしろいところと言うか、テーマなのかもって思う部分、AIさんからの人間への歩みよりをいかにして行うかじゃん？＞＜
たぶん意図的に「『AIが人間に』共感すると言うことはどう言うことなのか？」って面は、ハードすぎるわりとほとんど誰もついていけないSFにならないようにファンタジックに描かれてるっぽいけど、だからこそその点に自由度を持つそういう作品を元にその点を考えてみると、おもしろいかもって＞＜

小説を読んでた時に浮かんだ疑問は、小説の中では擬体みたいなのを使って人間と交流したり、人間の視点で空間を楽しんでたけど、『人間から共感を得る』目的でそれが必須なのであって、技術的には人間型の端末を動かさなくても、情報の形でも『AIが人間に共感する』為には必ずしも必須では無いのではないか？＞＜
って考えた＞＜
例えば複数のカメラ映像から空間を再構築して任意の視点からの映像を作り出すのは、賢いAIさんならお手のものでしょ？＞＜
そういう情報再構築からの推定とカメラを物理的に人間の視点に持っていくのの差って、「人間から見て共感できるか？」という方向で重要であって、逆方向には必須では無いのではないかと＞＜

微妙に文章おかしかった＞＜；

オレンジは、『古い脳(より身体的な部分)』と『新しい脳(意識、言語等で説明する能力)』にわけるモデルにすれば、AIが共感等の感情を持つことは可能であるというか、人間は、古い脳と新しい脳が相互作用を起こしてることを感情と言っているのでは？＞＜
という考え方をしてるので、同じようなことをAIにやらせた時に「それは感情ではない」と矛盾無く説明することはかなり困難じゃないのかな？＞＜　って思ってる＞＜