フォロー

むしろそれがない(少なくともある程度大きい)LLMが無いから><
これは「なぜLLMは未知語に反応できるのか?」という点にも関係があって、少なくとも未知語への対応には違和感(サプライザル)を測るような評価機構が必要になる><
もし、仮にLLMがあらゆる面で一切思考せずに本当に単純な意味で単語の続きを探しているだけであれば、未知語に続きなど無いのであるから、たとえば「聞いたことがない言葉です」のような応答はできない><

· · SubwayTooter · 0 · 1 · 1
ログインして会話に参加
:realtek:

思考の /dev/null