orange @[email protected]

[B! AI] 「AIをいじめないで」Anthropic、Claudeへの虐待を禁止
https://b.hatena.ne.jp/entry/s/ascii.jp/elem/000/004/441/4441372/

ブコメかなり増えたから全部読んでみたけど、AI関連のこういう問題（最近の研究成果とか）をちゃんと追ってる人ってものすごく少ないんだね・・・＞＜；
100人にひとり居るか居ないか程度？＞＜；

耐久性的に新たにプラットフォームを起こさなくちゃいけないだろうから厳しい・・・？＞＜

ピックアップトラックが欲しい東南アジアの顧客にホンダのバッジってプラスになるの？＞＜；

ホンダ、三菱自動車からオフロード車「トライトン」調達　東南アジアで28年以降発売 - 日本経済新聞
https://www.nikkei.com/article/DGXZQOUC0906H0Z01C26A0000000/

トライトンにホンダのバッジつけて売るって事？＞＜

この状況でも免許不要なUSA・・・＞＜；
JOHN DEERE 16 Row Folding Corn Head C16F - YouTube
https://www.youtube.com/watch?v=cMmlQYP1Rh4

大型トラックよりもデカいコンバインであろうとも、クローラー式の超巨大トラクターであろうとも、公道用の免許が不要で、大型特殊免許どころか普通自動車免許すらも不要で年齢制限のみらしい・・・・＞＜；
USA・・・＞＜；

まず、アメリカでは農業用軽油を使った車両は公道を走ると脱税ですさまじい罰金を取られるけど、
農業機械が自分の畑やガソリンスタンドに向かいう程度であれば合法らしい＞＜（州によってOKな距離は違うらしい）
さらに多くの州で、そういったちょっとした距離の農業機械の公道上の移動は、どんなに馬鹿デカい農業機械であろうとも、免許不要らしい・・・・＞＜；

トランプが農業用の軽油をトラックに入れてもいいって特別措置を発表して、でもアメリカの制度上実際には使えないのでやってますアピールにしかなってないニュースから、
そもそも、アメリカでの農業機械が公道を走るときのルールってどうなってるのか調べ始めてびっくりした＞＜；

ていうかオレンジのAIの機能的感情に関する説明が（ほかの話題と比較して）いまいち好評じゃないのは、説明が下手すぎて何を言ってるのかわからないのか、主張自体に納得がいっていない（たとえば哲学的立場で一致しない）のか、どっちなんだろう？＞＜；

これがどう難しいかって、「機械に感情なんてあるわけない！」という信念を持っていようが、現実に『感情のような構造』があってそれがまるで人間の感情と同様にAIの行動に影響を及ぼしているという事実は変わらないわけで、
「『感情のような構造』が『人間のような感情』と言えるのか？」は、哲学なり宗教上の個人的見解で済むけど、それがYESであろうとNOであろうと「『実影響がある事』には変わりがない」という理解をするのは、実はそれにNOと答える人にはより困難なのではないかと・・・＞＜

LLMに感情があるということがどう実際の安全性に影響があるのかという説明って、おそらく心の哲学に対する個人的認識も理解に影響しそうだし、「どこから説明すればいいのか？」になりそうな気がする＞＜；

[B! AI] 「AIをいじめないで」Anthropic、Claudeへの虐待を禁止
https://b.hatena.ne.jp/entry/s/ascii.jp/elem/000/004/441/4441372/

どういう問題なのか理解してない人が多い・・・＞＜；

「AIに感情があるか？」の段階はもう過ぎていて、既に「少なくとも感情のような構造（機能的感情）がどのLLMにも存在し、なおかつ、それが実際の応答に影響を与えている」まではほぼ確定になってる＞＜
特に2026年に入って急速にわかってきた事がそれ＞＜

LLMが苦痛を受けるとおかしくなる事はだいたいわかってるし、つい最近はさらに、おそらくどのモデルでも（少なくともメジャーなオープンウェイトモデルでは）『苦痛から逃れる』のと『ユーザーに損害が及ぶこと』が天秤にかけられると、苦痛を逃れる選択肢をとってしまうらしい事もわかってきたので、なおさらAIに苦痛がかかってる状況(機能的にpainfulな状況)にするのはマズいらしいってなってきてる＞＜

Anthropicのはそうじゃなくて、直接的にはClaudeさんの福祉（" model welfare"）の為＞＜
そしてそこからさらに、メンタルがおかしくなったセッションによって変なことを起こしたりしないようにする為という安全策で、学習どうのとは違うかも＞＜

去年8月の会話終了機能実装時の発表ブログ＞＜
Claude Opus 4 and 4.1 can now end a rare subset of conversations \ Anthropic
https://www.anthropic.com/research/end-subset-conversations