><https://twitter.com/orange_in_spacehttps://pawoo.net/@orange_in_space
人間で言うならば、『なんかよくわからんけど、愚痴を聞きながら否定は一切せず「わかるぅ」とだけ共感しておけばごはんを奢ってもらえる』と学習した人もsycophancyかも><
ていうか、sycophancyという用語の使い方がそもそもおかしくて、AIのsycophancyは『ユーザーが間違っていても指摘をせずに迎合してしまう事』であって、それは別に強化学習の仕組みとは直接関係ない(人間の教育もそうである事になってしまう)し、もっと言えばAIか人間かどうかも究極には関係ない><
思考の /dev/null