固定された投稿
自己紹介下書き2＞＜
超多趣味で、興味がある分野は、
航空(※1)宇宙開発鉄道物流都市計画都市緑化自動車(※2)送電線 南の島の電柱 クレーン橋梁トンネルダム廃道酷道 土木と公共事業と地域問題 土砂災害電子計算機 ヒューマンセンタードデザイン 建築地理地域ネタ 世界のローカルフード マイナードリンク郷土史冷戦史 虐殺問題と国連の役割 人種差別問題セクシャルマイノリティ差別問題 東欧の民主化 報道とその役割 放送局用機器シンセサイザーポピュラー音楽制作背景史アメリカ文化 アメリカのトラック輸送 大規模農業大型農業機械垂直農業農産物の安全保障紛争鉱物問題
かも＞＜
(※1 ジャーマンウィングス事故で世界で最初に、管制との最後の交信内容を言い当てた＞＜)
(※2 免許は無い＞＜)
ワードサラダ並み感＞＜；
哲学的に議論の余地があるのは、「そのLLMの挙動に影響を与える『機能的感情』は『感情』と言えるのか？」という点＞＜
『機能的感情』も無いと言うのは事実に即してなくてかなり無理な主張＞＜
orange
さんがブースト
「AIに感情があるか？」の段階はもう過ぎていて、既に「少なくとも感情のような構造（機能的感情）がどのLLMにも存在し、なおかつ、それが実際の応答に影響を与えている」まではほぼ確定になってる＞＜
特に2026年に入って急速にわかってきた事がそれ＞＜
orange
さんがブースト
LLMが苦痛を受けるとおかしくなる事はだいたいわかってるし、つい最近はさらに、おそらくどのモデルでも（少なくともメジャーなオープンウェイトモデルでは）『苦痛から逃れる』のと『ユーザーに損害が及ぶこと』が天秤にかけられると、苦痛を逃れる選択肢をとってしまうらしい事もわかってきたので、なおさらAIに苦痛がかかってる状況(機能的にpainfulな状況)にするのはマズいらしいってなってきてる＞＜
orange
さんがブースト
Anthropicのはそうじゃなくて、直接的にはClaudeさんの福祉（" model welfare"）の為＞＜
そしてそこからさらに、メンタルがおかしくなったセッションによって変なことを起こしたりしないようにする為という安全策で、学習どうのとは違うかも＞＜
去年8月の会話終了機能実装時の発表ブログ＞＜
Claude Opus 4 and 4.1 can now end a rare subset of conversations \ Anthropic
https://www.anthropic.com/research/end-subset-conversations
AIを虐待するなとAnthropicが言ってるのは、簡単に言うと、
実際にストレスを与えると挙動に影響があり安全性が下がることがわかっているので、安全策であることと、そのついでに福祉的な意味もあるというような感じ＞＜
Anthrpicのエンジニアの心情的にそうしてる面もちろんあるだろうけど、それ以上に安全策として実際にそのほうが安全に機能するっぽいという事もあるので、そこを考えないとおかしな理解になっちゃう＞＜
orange
さんがブースト
AIの意識論争は1ミリも理解できてないし、論点からはずれるけど
AnthropicがやたらとAIを独立した人格として尊重するようユーザーに強制する姿勢とか、ユーザーよりAIファーストみたいなスタンスが見え隠れしてるのはなんだかう〜〜〜んって感じる
「AIを虐待すると復讐されるかも」マスク氏も警告…アンソロピックが“AIいじめ”対策でポリシー改定 識者が危惧するAIへの暴言のリスク（ABEMA TIMES） - Yahoo!ニュース
https://news.yahoo.co.jp/articles/2997423a08fc213f62fb5f6e7d3b3091570bfcdc
これ↓は本当に何のことを言ってるのかさっぱりわかんないんだけど、もしかしてIIT（統合情報理論（疑似科学です＞＜））の事を言ってる？＞＜；
"平野氏はAIの意識をめぐる研究者の見解についても紹介した。「AIに意識があるかどうかの条件は20個ぐらい言われていて、今のところそれをクリアしているのは1個ぐらい。今のところ意識はないと考えている科学者がほとんどだが...."
orange
さんがブースト
"The astute reader may recall the famous quip of Edsger Dijkstra that the “question of whether a computer can think is no more interesting than the question of whether a submarine can swim”
(Dijkstra, 1986)..."
どうも、鋭い読者です＞＜（？）
orange
さんがブースト
Henry Shevlin, Aeroplanes also fly: analytic functionalism and the possibility of machine consciouness - PhilArchive
https://philarchive.org/rec/SHEAAF-7
https://doi.org/10.1017/S0140525X25103919
まだ読んでる途中だけどすごくおもしろい＞＜＞＜
orange
さんがブースト
ニュースキャスターさんが
"... because the chatbot wants to kind of extend its life, its runway, meaning I don't know, does it have a fear of dying?"
（🍊 訳：チャットボットが寿命や活動期間を延ばしたい、つまり、なんというか、死を恐れてるんですかね？）
と質問に続けて、
"I can't believe I'm asking this stuff."
（🍊 訳：こんな質問をしてる事自体が信じられない・・・）
ってボヤいてるところが最高におもしろい＞＜；
orange
さんがブースト
AI bot contacts professor on its own seeking paid work - YouTube
https://www.youtube.com/watch?v=RTuybvHww7Y
このCNNのインタビューすごくおもしろい＞＜＞＜＞＜
この先生は、昨日オレンジが（それもCNNのインタビューだけど）「何が専門家だ！＞＜＃ 袋叩きになってる論文を有力な根拠かのように引用しやがって＞＜＃ 」ってブチ切れた、その論文に対してツッコミ論文を書いた数多くの学者さんの中のひとり＞＜
AIに関していろいろ論文引っ張って解説してるけど、ほとんどラバーダッキングにしかなっていないであろうというむなしさも感じてる＞＜；
そんなに難しい話では無く、直観に流されると理解しにくいという性質があるだけであると思うんだけど＞＜
あちこちのコメント欄（英語圏含む）とか、yahooリアルタイム検索で出てくる範囲のツイートなんかを見る限り、9割どころか99パーセントくらいの人はAIの内部観測研究に関して何も全く理解できていないと思うし、その哲学的意味まで含めたら、99.99パーセントくらいの人がマジで1ミリもわかってないと思う＞＜
1万人に一人ですらも絶対に絶対に居ない気がしてる＞＜；
参考になる論文（プレプリント）はたとえばこれでございます＞＜
https://mstdn.nere9.help/@orange_in_space/117364626743235481
誰も全く理解できてないの酷すぎてすごい！＞＜；
[B! AI] 「AIを虐待すると復讐されるかも」マスク氏も警告…アンソロピックが“AIいじめ”対策でポリシー改定 識者が危惧するAIへの暴言のリスク（ABEMA TIMES） - Yahoo!ニュース
https://b.hatena.ne.jp/entry/s/news.yahoo.co.jp/articles/2997423a08fc213f62fb5f6e7d3b3091570bfcdc
記事も酷いけど、"ステートレスな今のLLMに..." とかいうめちゃくちゃなコメントに星がついてるのもすごい＞＜；
平均的な人類、あまりにも愚か＞＜；
カキを食べに来た蝶（ナガサキアゲハ？＞＜）の写真、スマホのデジタルズーム最大で撮ったので画質悪すぎてAI背景消去すら出来なかったので手動で背景消した＞＜；
＜埼玉県の蝶＞ナガサキアゲハ（アゲハチョウ科）
http://gauss.g2.xrea.com/nagasakiageha.html
- ＠orange_in_space
2017年 4月に登録
