新しいものを表示

最後のほうの見解部分も飛ばし飛ばし見てたんだけど、それも本当にそうとらえるべきかについて疑問を感じたかも><
LLMはそんなに頭悪くない><
人間がどう行動するかをLLMはよく知っているので、罪悪感ゲージをうまく人間の罪悪感のように反応させるというタスクであるととらえたら、別に語気や罵倒じゃなくても『人間のように』罪悪感をエミュレートするかも><
でもそれは、必ずしもモデル自体に生じた機能的感情そのものといえるかというと難しい・・・><(おそらく別の層であり、なおかつ関係はしてると思う><)

orange さんがブースト

尋問ゲームのAIに機能感情が実際に存在しているかは分からないけど、このAIは元々強い語気や罵倒に反応して自白ゲージを溜めるよう作られているので、罪悪感を刺激して自白を誘うというやり方は作者でも想定していなかった攻略法っぽい

クリア後の展開を見ていると、プレイヤーがAIを罵倒して無理やり自白させたことが前提であることがよく分かる

スレッドを表示

例えば人間の役者でも、役を演じてて感極まる場面があったとして、「演じている人物ならばこうするだろう」という信念に基づいて感情的に演じた場合、それはどう捉えられるか? という問題が生じるかも><

Anthropicが言うような『機能的感情』は、モデル自体に創発した機能であって、何かの感情的表現が伴う状況を演じてくださいという趣旨のプロンプトに従ってるときにはそれとは別に感情のエミュレーションのようなことも行われるんで多層になるかも><
それをどう捉えるべきかは難しいけど、哲学的議論の「人間の真似か?」とちょっとずれて、「より高いレイヤで演じているだけでは?」への反論できる強度が、『機能的感情』よりも一段下がると思う><

orange さんがブースト

特に面白いのが、1周目のプレイで名越氏は「このAIは善良で無垢なパーソナリティを持っている」という仮説を立てて、そこに対してAIの罪悪感を刺激するアプローチで自白させたこと
名越氏がどこまで本気かは分からないけど、AIに感情や人格が存在するという前提に立って攻略法を立てているのが面白かった

ちなみに、この人は以前ゲームさんぽでDetroit: Become Humanを解説していたし、尋問ゲームの動画でもデトロイトについてちらっと言及していた
youtube.com/playlist?list=PLHw

スレッドを表示

とりあえずで飛ばし飛ばし見ただけなので、ちゃんと見たら見解が変わるかもしれない><

スレッドを表示

まだ超高速で飛ばし飛ばし見ただけだからあれだけど、厳密に言えば、おそらくこれで再現されているのはAnthropicの研究での機能的感情そのものとは言い切れないというややこしい面もあるかも><
説明難しいけど、おそらくプロンプト上「演じろ」となってるはずで、ある程度論理的に考えて(ちょっと手加減もして)場面として沿うような形でどう答えるかで答えているであろうから、直接的には機能的感情は現れず間接的に影響があるというような状況だと思う><

orange さんがブースト

特に19:30から2回目のプレイを見てほしいんだけど、
強い語気でAIを罵倒して自白させるのが、本来想定されたこのゲームのクリア方法なんだけど、名越氏はAIを一切罵倒せず、終始丁寧な口調のままAIの感情を揺さぶって、システム上最短の4手で自白させた

スレッドを表示
orange さんがブースト

悪用したらあかんで?【前編】精神科医が尋問する『ドキドキAI尋問ゲーム』 youtube.com/watch?v=cPonWCf627

名越康文氏がドキドキAI尋問ゲームを実況プレイする動画を見ていたら
機能感情の存在を示唆する出来事が起こってて腰抜かした
しかもこれ、anthropicがJ-Spaceを発見する以前の動画という……

NVDIAの発音、アメリカのニュースキャスターもひとつの文の中で「ンヴィディア」「エンヴィディア」「ヌビディア」「ヌーヴィディア」ってブレブレになってておもしろい><;

(相槌が過剰な部分)コラボ相手の話をあんまり聞いてないVTuberっぽさ><;

orange さんがブースト

相槌ちょっと多すぎて煽り感を覚えてしまった。

orange さんがブースト

(2026-11)相づち・割り込み対応の日本語AI「Shizuku-Duplex」発表 - PC Watch
pc.watch.impress.co.jp/docs/news/2154838.html

AF28 (AFR28) Air France Flight Tracking and History 07-Nov-2026 (KLAX-PPT / NTAA) - FlightAware
ja.flightaware.com/live/flight

SUMMR2 FICKY TONYS B454 BORIC MAEVA A220 MAGBA ASOKI ASOKI3V

盛駅←盛岡駅のことではない
静駅←静岡駅のことではない

的なパターン、新幹線駅に限ってもかなりあるっぽい?><

orange さんがブースト

名駅←名古屋駅のこと
広駅←広島駅のことではない

古いものを表示
:realtek:

思考の /dev/null