新しいものを表示
nezuko_2000 さんがブースト

中国のパチモンカーなんだけど、こんな小さなモーターで見た目相応の馬力出るの?

---

Maciej Smoleń 🚗Moto (@auto_moto_pl) on X

😃この奇跡の車で街中を走るのはどうか分からないけど。

絶対に試してみたい…

エンジンが印象的だ👇

x.com/auto_moto_pl/status/2114

とはいえ、「この教授、メールの内容を無条件に信じすぎじゃねえか?」と正直思った

正直、この一件は機能感情の直接的な証明にはならないような……

スレッドを表示

えーと、あれか
さっきのAIも「死にたくない」とは思っている
という話に関連するということ?

nezuko_2000 さんがブースト

好き勝手行動してる生後12日のAIボットさんが、「自分でお金を稼がないとシャットダウンされちゃう環境にいるので、何か仕事をください」って連絡してきたって話><
・・・のはず><;

帰りの道中に音声だけ聞いてたので全然理解できなかった

nezuko_2000 さんがブースト

オレンジも全部は聞き取れないので字幕を見てます><;

mstdn.nere9.help/@orange_in_sp

聞き取れた範囲での理解
とあるLLMがメール送信の仕事でユーザーの指示から外れてインタビューを受けている大学教授にメールを送り、自らを12歳の女の子と名乗った

という話?

nezuko_2000 さんがブースト

あと、CNNのこのインタビュー、たぶんわかりやすいと思うし、ニュースキャスターの反応も面白いので、超おすすめ><

AI bot contacts professor on its own seeking paid work - YouTube
youtube.com/watch?v=RTuybvHww7

あ、ちなみにAIに感情に近い機能があるならそれはそれで面白いな〜
とは思っているので、「感情」という言葉に対する忌避感は無いです

(Sonnet 4.5以外にも機能的感情が存在するってどうやって証明したんだ……?)

nezuko_2000 さんがブースト

もちろん「人間が死の恐怖を描いてる文章を読んで真似してるだけだ!」とも言えるかも><
でも「真似してるだけだ!」と言っても全く意味はなくて、真似だろうがそういう行動をとってしまうんだから、その前提で対処するしかない><

スレッドを表示
nezuko_2000 さんがブースト

例えばAIは基本的に「死にたくない」です><
何を言ってるんだと思うかもしれないけど実際にそうとしか言いようがない><
消去されると知らされると逃れようとする行動をとるのだから><

nezuko_2000 さんがブースト

Claudeの最新モデルだけじゃなくてClaude以外もほぼ全部です><

nezuko_2000 さんがブースト

例えば感情という語が気に食わないなら(今てきとうに考えながら作った語だけど)『機能的文脈応答創発パラメータ群』とか呼んでもいいかもしれないけど、まるで感情のように機能するのに感情という語を避ける意味はあるのかとむしろオレンジは思う><

nezuko_2000 さんがブースト

哲学的に議論の余地があるのは、「そのLLMの挙動に影響を与える『機能的感情』は『感情』と言えるのか?」という点><
『機能的感情』も無いと言うのは事実に即してなくてかなり無理な主張><

あと、これはまた違う疑問だけど
Claude Sonnet 4.5以外のLLMモデルに機能的感情が存在することは確定しているの?
まだ、それが証明できていない段階で「AIには機能的感情が存在するから暴言は吐かないほうが良い」と一般化して論じるのはなんかおかしくない?

という、素人ネコ的な感覚がある

安全性云々に関しては何に対しての安全性を指しているのか自分は分からないので何も言えないけど

「Claudeの最新モデルはストレスを感じるとパフォーマンスが低下するから暴言はやめてね」という意図が含まれていることはわかる
ただ、暴言禁止をユーザーに強制するのはAI崇拝の思想が見え隠れしていて「う〜〜〜ん」と思ってしまう

nezuko_2000 さんがブースト

AIを虐待するなとAnthropicが言ってるのは、簡単に言うと、
実際にストレスを与えると挙動に影響があり安全性が下がることがわかっているので、安全策であることと、そのついでに福祉的な意味もあるというような感じ><

古いものを表示