固定された投稿
自己紹介下書き2＞＜
超多趣味で、興味がある分野は、
航空(※1)宇宙開発鉄道物流都市計画都市緑化自動車(※2)送電線 南の島の電柱 クレーン橋梁トンネルダム廃道酷道 土木と公共事業と地域問題 土砂災害電子計算機 ヒューマンセンタードデザイン 建築地理地域ネタ 世界のローカルフード マイナードリンク郷土史冷戦史 虐殺問題と国連の役割 人種差別問題セクシャルマイノリティ差別問題 東欧の民主化 報道とその役割 放送局用機器シンセサイザーポピュラー音楽制作背景史アメリカ文化 アメリカのトラック輸送 大規模農業大型農業機械垂直農業農産物の安全保障紛争鉱物問題
かも＞＜
(※1 ジャーマンウィングス事故で世界で最初に、管制との最後の交信内容を言い当てた＞＜)
(※2 免許は無い＞＜)
ワードサラダ並み感＞＜；
orange
さんがブースト
スイスチーズモデル的な話がしたいのかもしれないけど、あれも結局は正常な操作のうち最終的に必要になるものはどうにかチーズの層を越えられることを前提においていると思うので (でないと製品や操作体系としてそもそもの目的を果たせるものでないということになる)
orange
さんがブースト
で、全く本題ではないが https://mstdn.nere9.help/@orange_in_space/116536523857603601 での例について言及しておくと、健全な静的型システムは「問題のないプログラムを拒否することはあるが、問題のあるプログラムを許容することはない」というある種の一方向性こそが安全と利用しやすさに寄与しているという面がある。つまり false positive はあるが false negative はない、ということ。
対してｴｰｱｲによる検証は「問題のある理屈を問題なさそうとしてしまうこともあり、逆に問題のない理屈に問題があるかもしれないとする可能性もある」という点で、この一方向性がない。よって安全への寄与の側面での喩えとして出すにはちょっと構造的な違いがデカいのではないかと思った
これはある種の誤認(人間万能論的な感じ)なのでは＞＜
何らかの任意のタスクをこなす能力において、平均的な人間の能力なんて大したこと無いということを多くの人が都合よく忘れてしまうからこその、誤判定の一種のような気がする＞＜
orange
さんがブースト
具体的には、ｴｰｱｲによる情報を丸投げすると「この人は自分では『何も考えなかった』が、本人の頭で考えた場合にそれに気付ける能力がある可能性は否定できない」程度の割と中立・評価保留程度の評価に寄りがちなのに対して、人間による嘘を投げると「この人は自分で考えた結果『思考能力の不足を露呈した』」という無能の保証がつく。
実運用においてこの差は大きい。
そもそもあらゆる分野に対して、まともな大きさのLLM以上に詳細に検証できる人間なんてほとんどいないと思う＞＜
orange
さんがブースト
うーん、まずｴｰｱｲによるかどうかを問わず無検証での丸投げはカス！ というのはその通りで異論はない。
そのうえで、 https://mastodon.cardina1.red/@lo48576/116536407114094649 で挙げたように「ｴｰｱｲを通してフィルタした人間が未検証のデカ情報」は、「ｴｰｱｲにフィルタさせた痕跡のない人間が未検証の情報」に比べて発言者に与える不名誉効果が小さすぎるという問題がある。この点においてｴｰｱｲ使うくらいなら人間が嘘つく方が (周囲の人間にとっては) マシともいえると思う
自分で検証したわけでもなくLLMに検証させたわけでもない主張を投げるのは、是非は別として、静的型つけ言語を使っているのにコンパイルが通るかも試してないコードをぶん投げることと同じです＞＜
静的型検査は、すべてのエラーを見つけられるわけではなく、それ自体にバグがないことは保証せず、そして人間でも無いですが、型検査しないよりは大幅にマシです＞＜
ちなみにオレンジが一番言いたいことはこれで、
https://mstdn.nere9.help/@orange_in_space/116536458785324368
ピカソの逸話の30年相当部分が無く、何らかの議論の議題に対して30年相当部分を持とうとする積もりがないのであれば、LLMを使う方が鵜呑みにする(無検証でスルーさせる)よりずっとマシなので、せめてLLMくらい使え＞＜
です＞＜
嫌みだらけの文であろうとも、事実誤認は事実誤認だし矛盾は矛盾＞＜
orange
さんがブースト
それならそれでいいんだけど、嫌味ばかりでダイレクトな指摘がない (ように私には見えた) ので正直真面目に向き合う気はあまりなかったです (正確には向き合うべき主張の明文化が行われていないので「そうだね」「そうかぁ？」程度の言説にしか値しないと思っており真面目にやる気が出ない)
いいえ＞＜
そこも含め、ほぼ全体の論理展開に誤りがあるとオレンジは言ってます＞＜
orange
さんがブースト
黴の生えたレトリックだなとは思うけど、その部分を “修正” したところで本題にそこまで大きな影響はないかなと感じます (ｴｰｱｲの “知性” を信じる人にとっては大きな違いかもしれないが)
orange
さんがブースト
あー、その部分の話をしたいのか
オレンジはピカソの逸話で言う、30年と30秒で描いたの30年部分に相当する知識を持っていたので、この記事の誤りに30秒相当の部分労力で誤りを見抜けたけど、
そうじゃない人は時間をかけてまともに検証するかあるいは鵜呑みにするかあるいは無視する事になるのではないでしょうか？＞＜
それはLLMが生成した任意の文章に対しても変わらないのでは？＞＜
orange
さんがブースト
手抜き (あるいは手抜きと同等にコストをかけて取り扱う必要のあるもの) を送りつけられた結果、受け手のこっちがコストをかける必要がある、これが迷惑だと言っており、まったくその通りであると思う。
受け手が検証をするとかしないとかそういう段階の話ではない。それよりも前のステップの問題。
orange
さんがブースト
そして実際に件の記事では「LLMに任せるだけにして手抜きしたやつ」による迷惑行為がカスであると言っており、突っ掛かるべき事項が特に感じられなかった
ちなみに元記事のこの部分は、LLMに関して技術的にもガチの哲学的にも間違った主張です＞＜
"...生成されたのは反論ではない。自分を苛立たせた主張に対する妥当な批判かどうかもわからない、もっともらしい文の塊に過ぎない。その問題を理解している人間がAI出力を一行ごとに検証するまでは、それはただの確率論的なワードサラダだ。..."
で、さっきの記事の著者であるコリイ・ドクトロウは、LLMに検証させる事はせずその上で人間が十分に検証せずに(オレンジが自信の知識のみで一瞬で反論できるほどの誤りを含んだまま)記事を出したわけです＞＜
もちろん、オレンジの反論も検証されるべきなので、あとでいくつものLLMに穴をさがしてもらうつもりだけど＞＜(厳密に言えばそうする前にtootすることは悪いとも言えるけど)
はい、しましたし、LLMに任せて本人はサボる事で「LLMに任せるだけにして手抜きしたやつ」という形で評判に影響するとオレンジは当時反論したはず＞＜
- ＠orange_in_space
2017年 4月に登録
