orange @[email protected]

これの文体を変えて「むしろ人間がよくやらかしちゃうことだよね！＞＜；」とClaudeに伝えて慰めたつもりが、むしろ平謝りしちゃってた＞＜；

まとめだけ見せて意見を聞いたClaude 4.5のセッションにオレンジの意見を見せてあげたら、Thinkingのログ内で意見のバランスをとろうとして危険性を軽視していた事に反省してた＞＜
これ自体、メタに人間もやらかす事であり、危険な事態に向かう意見と安全重視の意見のバランスをとろうとして両論併記して危険なやり方を許容して事故に至る愚かな人間と同じパターンではあるね＞＜；
危険と安全は単純にはバランスをとってはいけない＞＜
あくまでリスクの面から許容範囲を検討すべきであって、意見の両立で決めていいことでは無い＞＜

・・・ということで、このまとめの意見を危険性への危惧を持たず肯定する人間は、(航空の安全に関する論文等で多く語られるような、機械化が難しい)人間に要求される柔軟な判断力を発揮しない事を宣言してるのと同じなわけで、それこそAIに置き換える方がまだマシな人材と言えるのでは？＞＜
AIですら危惧を持てたわけだし＞＜

頭が良くて合理的な人が、会社で「穴掘ってまた埋めろ」みたいな指示されると「なんでそんなバカなことを」と反発して話が進まないことがあるが、本当に会社で必要な頭の良さはこちらではないか - Togetter https://togetter.com/li/2715830

まとめだけ見せてClaude 4.5、Gemini、sakana chatに意見を聞いたけど、どれも「処世術として一理あるけれども、それは組織の腐敗と安全性の欠落の原因になる」という感じの意見を述べてた＞＜
(少し差があって、Claude 4.5はポジティブ寄りで「バランスを」って意見、Geminiはフラット、sakana chatはネガティブ寄りな感じ＞＜)

まとめだけ見せて反論するかも見てみればいいのか＞＜

これためしに具体例を出す前の "...取り違えてるよ＞＜" までをClaude 5.4、Gemini、Sakana chatに見せてさらに反論するか試してみたけど、全面的にオレンジと同じ方向の「ただ単に指示に従うのは安全上重大な問題がある」という意見を持ってた＞＜
よく考えたら、LLMもそうだろうから当たり前かもだね＞＜；
(システムプロンプトに「ユーザーの指示にそのまましたがっちゃダメだよ！ 規範を優先しようね！」的なことが書いてあるだろうし＞＜)

ちょっと見たって、調べたんじゃなくニューで映像見て地図を見た程度＞＜

京都の事故ちゃんとおってないけど、当日にちょっと見た範囲では宇都宮ライトレールの開業前の脱線事故の類似例に見えた＞＜

つまり必要なのは、その作業がどういう意味があってどういう危険性を持っているか理解することであって、「偉い人はしっかり考えてるだろ知らんけど」では決してないし、その危険性を広い知識で認識できる柔軟な能力を発揮できないのであれば、人間を使う意味がないよ＞＜(これは航空の安全に関する論文等によく書かれてることだよ＞＜)

頭が良くて合理的な人が、会社で「穴掘ってまた埋めろ」みたいな指示されると「なんでそんなバカなことを」と反発して話が進まないことがあるが、本当に会社で必要な頭の良さはこちらではないか - Togetter https://togetter.com/li/2715830

それって会社が合理的じゃなくなってついでに事故を起こすだけだよ＞＜
反発するな必ず意味があるはずだから従えという人は安全に関する規範の意味を取り違えてるよ＞＜
とてもわかりやすい事例として東海村JCO臨界事故のバケツでウランは、裏マニュアル作成者や現場指示者は安全に関する違反を行っていたが、その指示下で作業していたものは文字通りその指示にしたがっていたわけだよ＞＜
「偉い人は既に考えてる」やら「偉い人はちゃんと考えてる」は事故の元だよ＞＜
シャトルのチャレンジャー事故もそうだよね＞＜

このへん＞＜(？)
https://notestock.osa-p.net/@orange_in[email protected]/20230317/view

テッド・テンプルマン - Wikipedia https://ja.wikipedia.org/wiki/%E3%83%86%E3%83%83%E3%83%89%E3%83%BB%E3%83%86%E3%83%B3%E3%83%97%E3%83%AB%E3%83%9E%E3%83%B3

[B! 自動車] 駐車中、自分が見えないところで車をぶつけられていたが相手は逃走… 警察に通報して、現場検証してもらうも「駐車場の場合は当て逃げにはならない」と耳を疑いたくなる事を言われた
https://b.hatena.ne.jp/entry/s/togetter.com/li/2715639

ブコメに道路交通法上の道路の誤った解釈を述べてる人が複数居るんだけど、教習受けてなかったのかよとか書いてるけど、こいつらが教習受けてなかったんでは？＞＜

swift boost missionって中継ないのかな・・・＞＜