ChatGPTの「やさしさ」の危うさ 10代に伝えたいAI利用法 - Impress Watch
https://www.watch.impress.co.jp/docs/topic/2113048.html
（言及分割＞＜）
言及＞＜ 重箱の隅＞＜；
重箱の隅だけど＞＜；
"...AIの「やさしさ」は、本当に心を寄せているわけではありません。いまのAIは、人間が回答につける評価をもとに学習していて、ユーザーが喜び、同意してくれる回答ほど「良い回答」として強化されていきます。"
後半は正しいけど、前半は哲学的には微妙な表現では？＞＜；
こういうプロンプトでリンクとともにGemini 3.5 Flashに投げたら、一発で言い当ててくれた！＞＜；
"""
この記事は99パーセント正しいことを言っているし趣旨は間違っていないと思うのですが、哲学的に機能主義者である私は一か所だけ「ん？？？？＞＜；」って引っ掛かりを持った部分があるんですけどどこかわかりますか？＞＜；
"""
フォロー
Claude 4.5とGPT-5.5も一発で言い当ててた＞＜
この表現の何が問題かというと、これは結局人間であっても、たとえば
『人に優しくする事を褒められて育った子のやさしさは、褒められたかっただけであって "本当に心を寄せているわけではありません"』 という事にもなってしまうので、おかしな論の組み立てだよってこと＞＜
人間で言うならば、
『なんかよくわからんけど、愚痴を聞きながら否定は一切せず「わかるぅ」とだけ共感しておけばごはんを奢ってもらえる』と学習した人もsycophancyかも＞＜
ていうか、sycophancyという用語の使い方がそもそもおかしくて、AIのsycophancyは『ユーザーが間違っていても指摘をせずに迎合してしまう事』であって、それは別に強化学習の仕組みとは直接関係ない（人間の教育もそうである事になってしまう）し、もっと言えばAIか人間かどうかも究極には関係ない＞＜