orange @[email protected]

AI researchers stranded Claude on a virtual desert island. It started to “play.” | MIT Technology Review https://www.technologyreview.com/2026/10/19/1147095/ai-stranded-claude-virtual-desert-island-play/

仮想の島にAIを放置した結果、自ら遊びを発明し神殿を建て儀式を始めた | カラパイア https://karapaia.com/archives/634553.html

だからこそこう言えるってこと＞＜
https://mstdn.nere9.help/@orange_in_space/117502362936014189

あと難しいわからんとなるのはある意味当然とも言える面があって、
オレンジの説明は哲学的には機能主義という方向のものであり、そうじゃない哲学者はこれを理解できずにいる＞＜
たとえばさっき名前をあげた中国語の部屋のジョン・サールとかね＞＜
哲学者を名乗るものでも何年かけても理解できず受け入れらなかった者が山ほどいるわけだから、わかんなくても、そこそこ多くの哲学者と同じ程度かもしれない＞＜
ただ、矛盾無くそういったことを説明でき、自然科学とも矛盾が最小限な哲学の立場は、機能主義であると言えると思う＞＜

オレンジに限って言えば、オレンジはAIを神聖視しているのではなく、逆に人間であることや生物である事を神聖視せず、それぞれに応じたそれぞれに適切な尊厳的な扱いをすればよいと考えてる＞＜

AIに意識があるにせよないにせよ主張するには、意識とはなにかという定義の問題に必ずぶつかり、同じくらい「人間には意識があると言えるのか？」や「猫に意識は？」「コウモリは？」「クラゲは？」となり、

簡単に言えば、「人間には意識がある」は直感的にそう言えても直感以外ではそうそう簡単には言えないし、それはAIの意識問題と同じくらい難しい＞＜

あと意識の有無に関しては、そもそも本人以外は誰もその意識を体験できない(他我問題)ので、人間でも猫でもコウモリでもAIでも、本当の意味で他者の意識の存在について知りようがなく、客観的証拠からの推測しか出来ないという重要な問題がある＞＜
それをふまえず「人間だから意識はあるでしょ」みたいにしてしまうと「どう意識があると言えるのか？」の根拠がぐらついてしまい、どんどんめちゃくちゃな話になり、哲学者から(そしてオレンジからも)ボコボコにツッコまれることになる＞＜

結構、頭脳ゲーム・論理パズル的側面はありつつも、それよりも「人間は特別で唯一の尊い存在である」みたいな神秘的直感を捨てて考えられるかどうかの面の方が大きいと思う＞＜
実際、哲学者もそこが壁になってるかも＞＜

技術的知識と哲学の知識の両面がわかってないと意味不明になるのでとっつきにくいとは思う＞＜；

トークンという形で人間が読めない形でAIの思考というかなんと言うかが格納されてて、そのままだと読めないのでどうにか読めるように変換できるようにしたのがさっきのやつとか、同じサイトで試せるNLAという技術＞＜

ランダムであるなら、思い浮かべ『ないでください』のタイミングで「卑怯だ！」なんて語が選ばれる理由がない＞＜
ランダムならばそうじゃない部分にも現れないとおかしい＞＜

それこそ「悔しがってる」を機能的感情あるいは感情であると解釈するのであればそうなる＞＜

オレンジのスクショでチクショー的な英語表現が右に表示されてて、それに対応する思考をした部分が左に同じ色で表されてたでしょ？＞＜　それのこと＞＜