フォロー
頭が良くて合理的な人が、会社で「穴掘ってまた埋めろ」みたいな指示されると「なんでそんなバカなことを」と反発して話が進まないことがあるが、本当に会社で必要な頭の良さはこちらではないか - Togetter https://togetter.com/li/2715830
それって会社が合理的じゃなくなってついでに事故を起こすだけだよ＞＜
反発するな必ず意味があるはずだから従えという人は安全に関する規範の意味を取り違えてるよ＞＜
とてもわかりやすい事例として東海村JCO臨界事故のバケツでウランは、裏マニュアル作成者や現場指示者は安全に関する違反を行っていたが、その指示下で作業していたものは文字通りその指示にしたがっていたわけだよ＞＜
「偉い人は既に考えてる」やら「偉い人はちゃんと考えてる」は事故の元だよ＞＜
シャトルのチャレンジャー事故もそうだよね＞＜
これためしに具体例を出す前の "...取り違えてるよ＞＜" までをClaude 5.4、Gemini、Sakana chatに見せてさらに反論するか試してみたけど、全面的にオレンジと同じ方向の「ただ単に指示に従うのは安全上重大な問題がある」という意見を持ってた＞＜
よく考えたら、LLMもそうだろうから当たり前かもだね＞＜；
(システムプロンプトに「ユーザーの指示にそのまましたがっちゃダメだよ！ 規範を優先しようね！」的なことが書いてあるだろうし＞＜)
つまり必要なのは、その作業がどういう意味があってどういう危険性を持っているか理解することであって、「偉い人はしっかり考えてるだろ知らんけど」では決してないし、その危険性を広い知識で認識できる柔軟な能力を発揮できないのであれば、人間を使う意味がないよ＞＜(これは航空の安全に関する論文等によく書かれてることだよ＞＜)