LLMモデルのデータ不正利用ってどうやって見分けるんだろう。地図情報とかわざと間違った情報を入れてあったりするとか聞くけど、LLMでも「この質問には絶対こう答える」みたいなトラップが仕込んであったりするのかな。LLMなんもわからんけど。
フォロー
昨日書いてたLLMモデルのデータ不正利用見分け方。あー、なるほどね。そらバレるわ。 https://x.com/super_bonochin/status/1884627507997270488
@osapon むしろLLMの構造的にどうやってこれが出力されるのかのほうが気になるｗ
LLMなんも分からんけど、モデルデータって統計情報の集まりかと思っていたが、一定ジャンルの方向性にスコアが寄りすぎたら特定の文章を出すとかコントロールできるんかな。