ていうか、sycophancyという用語の使い方がそもそもおかしくて、AIのsycophancyは『ユーザーが間違っていても指摘をせずに迎合してしまう事』であって、それは別に強化学習の仕組みとは直接関係ない(人間の教育もそうである事になってしまう)し、もっと言えばAIか人間かどうかも究極には関係ない><
RE: https://mastodon.cardina1.red/@lo48576/116140962185000240
本当に大した話ではなくて、出勤時間が遅いとき「遅刻よ」と言いたいだけです
Claude 4.5とGPT-5.5も一発で言い当ててた><
この表現の何が問題かというと、これは結局人間であっても、たとえば
『人に優しくする事を褒められて育った子のやさしさは、褒められたかっただけであって "本当に心を寄せているわけではありません"』 という事にもなってしまうので、おかしな論の組み立てだよってこと><
こういうプロンプトでリンクとともにGemini 3.5 Flashに投げたら、一発で言い当ててくれた!><;
"""
この記事は99パーセント正しいことを言っているし趣旨は間違っていないと思うのですが、哲学的に機能主義者である私は一か所だけ「ん????><;」って引っ掛かりを持った部分があるんですけどどこかわかりますか?><;
"""
言及>< 重箱の隅><;
重箱の隅だけど><;
"...AIの「やさしさ」は、本当に心を寄せているわけではありません。いまのAIは、人間が回答につける評価をもとに学習していて、ユーザーが喜び、同意してくれる回答ほど「良い回答」として強化されていきます。"
後半は正しいけど、前半は哲学的には微妙な表現では?><;
ChatGPTの「やさしさ」の危うさ 10代に伝えたいAI利用法 - Impress Watch
https://www.watch.impress.co.jp/docs/topic/2113048.html
(言及分割><)
名門カリフォルニア大学で“中学数学を教え直す”異常事態 理工系教員ら1000人超が連名で抗議文書 原因は…… - ITmedia NEWS
https://www.itmedia.co.jp/news/articles/2606/02/news021.html
!?><
37年前に話題「鉄骨飲料」令和に復活 “新・鉄骨娘”が「鉄骨ダンス」オマージュ | オリコンニュース(ORICON NEWS)
https://www.oricon.co.jp/news/2457882/full/
テレビ、ゲーム禁止、3DSを親に奪われ、偏差値の高い中高一貫校に進学した子の進学結果に驚きの声や、似た環境で育った人の体験談が集まる「これの最悪のケースが加藤」 - Togetter
https://togetter.com/li/2704367
"...その子どもたちも親からはしっかり「ゲームの悪」を説かれていて、「ゲーム脳」の書籍を渡されていたり、..."
それは普通に賢くない人なだけなんでは感><