orange @[email protected]

あと意識の有無に関しては、そもそも本人以外は誰もその意識を体験できない(他我問題)ので、人間でも猫でもコウモリでもAIでも、本当の意味で他者の意識の存在について知りようがなく、客観的証拠からの推測しか出来ないという重要な問題がある＞＜
それをふまえず「人間だから意識はあるでしょ」みたいにしてしまうと「どう意識があると言えるのか？」の根拠がぐらついてしまい、どんどんめちゃくちゃな話になり、哲学者から(そしてオレンジからも)ボコボコにツッコまれることになる＞＜

結構、頭脳ゲーム・論理パズル的側面はありつつも、それよりも「人間は特別で唯一の尊い存在である」みたいな神秘的直感を捨てて考えられるかどうかの面の方が大きいと思う＞＜
実際、哲学者もそこが壁になってるかも＞＜

技術的知識と哲学の知識の両面がわかってないと意味不明になるのでとっつきにくいとは思う＞＜；

トークンという形で人間が読めない形でAIの思考というかなんと言うかが格納されてて、そのままだと読めないのでどうにか読めるように変換できるようにしたのがさっきのやつとか、同じサイトで試せるNLAという技術＞＜

ランダムであるなら、思い浮かべ『ないでください』のタイミングで「卑怯だ！」なんて語が選ばれる理由がない＞＜
ランダムならばそうじゃない部分にも現れないとおかしい＞＜

それこそ「悔しがってる」を機能的感情あるいは感情であると解釈するのであればそうなる＞＜

オレンジのスクショでチクショー的な英語表現が右に表示されてて、それに対応する思考をした部分が左に同じ色で表されてたでしょ？＞＜　それのこと＞＜

未知語は、辞書にない応答はどうすればいいのかという話＞＜
最小のモデルで言うならば、「おはよう」には「おはよう」、「ありがとう」には「どういたしまして」と返せと言う辞書があったとして、「ぽぺぽぺぽ」にはどう返すのか？＞＜
少なくとも「辞書を見て対応する言葉を返せ」という単純なルールでは辞書にない言葉には当然ながら応答が出来ない＞＜

ここは説明は難しいけど、たとえばオレンジも再現した実験でも見られるように、単に言葉に応答するだけであれば、リンゴを思い浮かべたことに悔しがる必要はない＞＜

この未知語は、中国語の部屋の単純バージョン(考えたジョン・サールのものではなく巷で語られてるバージョン)でも問題になり、たとえば中国語の部屋に、中国語のようでそうではない創作した言葉を投げ掛けたらどうなるのか考えればよい＞＜
ちなみにサールはその問題に気づいていて、実際には中の人も少し思考するというバージョンをとってるらしい＞＜

むしろそれがない(少なくともある程度大きい)LLMが無いから＞＜
これは「なぜLLMは未知語に反応できるのか？」という点にも関係があって、少なくとも未知語への対応には違和感(サプライザル)を測るような評価機構が必要になる＞＜
もし、仮にLLMがあらゆる面で一切思考せずに本当に単純な意味で単語の続きを探しているだけであれば、未知語に続きなど無いのであるから、たとえば「聞いたことがない言葉です」のような応答はできない＞＜

コウモリも鳥でも昆虫でもないのに飛べるね＞＜