orange @[email protected]

それはたとえば非互換が判明し次第切り捨てることで集団のメンテナンスをしたり、苦痛を与えたり予告することでもっと別の「苦痛を避けたい」のような価値観に行動のアンカーを変更したり、あるいは従来持っていた価値判断をできないよう力業で脳を変質させたり、のようなことです

何が言いたかったかというと、「理性的に考えて (きわめて多くの文脈では) 妥当かつ有益とされる判断」であったとしても、結局それは「妥当性や有益性や社会的イメージを尊重する価値観」のような underlying な価値観なしには遂行されないものなのであって、その一番根底の部分で人間はわかりあえないから対症療法的に誤魔化すしかないじゃん、ということです

それは「そのように訓練されたとおりの行動をすることが妥当だ」という判断を行う限りにおいて本人にとって正当で行動として表面化するに値するものなのであって、それを妥当だとする判断が行われない状況になればすぐに破綻する

副機長の再三の忠告を無視して事故を起こしたりね……

矛盾や不都合を避けることを極めて根本的な原則として意識していない人にとって、「その行動で不都合や矛盾が発生するけどどうするの？」という質問は「どうもこうも、やろうと思ったからやるだけだが」というリアクションしか引き出さないわけです

https://mastodon.cardina1.red/@lo48576/108488967509850480

十分な情報量があれば (現実的には不可能だが) 物理的には社会の行く末を “予測” することはできる、というのはそういう文脈での話です。
ただ、その物理的な “予測” を越えて、どういう “目標” を設定すべきなのか、という部分については、問題を考える個人の価値観の影響を排することはできない

AとBを前提にするとXが望ましいと考えられる、あるいはCが真ならXは望ましくないと考えられる、みたいな思考のグラフみたいなのをデータとして扱えると、考えをを共有したり再検討したりしやすそうで面白そう、と誰かが言っていた

で、そういう個々人の “内面” を我々は行動の履歴からそれらしく推測することしかできないから、人間を人間として神聖化して扱う限り、真の意味で “社会” 全体にとって満足な目標を設定することはできない

で、じゃあその価値判断なり行動指針なりの行き着く先が何なのかというと、社会の構成員個々人が内面に持っている価値観や世界観なわけですよね

社会が食糧自給率を上げようとするときその目標設定にはもっと別の価値判断が絡むし (たとえば兵力が不足しているという判断や、たとえば近隣から奪えるほど近隣の地理的な状況が良くないとか、たとえば国際的な立ち位置をどうにかしたいとか)、その “別の価値判断” についてももっと別の理由があるものだし、そういう絡まった連鎖を見ないといけない

結局社会がどうあるべき、どういう判断が “正当” である、というのは、『人間とかいう肉の塊が相互作用して物理状態に変化が発生している世界』をどう解釈してどういう “意義” や “価値” を見出すかという主観的な価値判断なしには主張しえないわけで、その意味で個人の価値観や世界観への依存なしにこういった主張は存在できないし何かを「普遍的におかしい」と判定することもできない