いいえ＞＜
そこも含め、ほぼ全体の論理展開に誤りがあるとオレンジは言ってます＞＜
orange
さんがブースト
黴の生えたレトリックだなとは思うけど、その部分を “修正” したところで本題にそこまで大きな影響はないかなと感じます (ｴｰｱｲの “知性” を信じる人にとっては大きな違いかもしれないが)
orange
さんがブースト
あー、その部分の話をしたいのか
オレンジはピカソの逸話で言う、30年と30秒で描いたの30年部分に相当する知識を持っていたので、この記事の誤りに30秒相当の部分労力で誤りを見抜けたけど、
そうじゃない人は時間をかけてまともに検証するかあるいは鵜呑みにするかあるいは無視する事になるのではないでしょうか？＞＜
それはLLMが生成した任意の文章に対しても変わらないのでは？＞＜
orange
さんがブースト
手抜き (あるいは手抜きと同等にコストをかけて取り扱う必要のあるもの) を送りつけられた結果、受け手のこっちがコストをかける必要がある、これが迷惑だと言っており、まったくその通りであると思う。
受け手が検証をするとかしないとかそういう段階の話ではない。それよりも前のステップの問題。
orange
さんがブースト
そして実際に件の記事では「LLMに任せるだけにして手抜きしたやつ」による迷惑行為がカスであると言っており、突っ掛かるべき事項が特に感じられなかった
ちなみに元記事のこの部分は、LLMに関して技術的にもガチの哲学的にも間違った主張です＞＜
"...生成されたのは反論ではない。自分を苛立たせた主張に対する妥当な批判かどうかもわからない、もっともらしい文の塊に過ぎない。その問題を理解している人間がAI出力を一行ごとに検証するまでは、それはただの確率論的なワードサラダだ。..."
で、さっきの記事の著者であるコリイ・ドクトロウは、LLMに検証させる事はせずその上で人間が十分に検証せずに(オレンジが自信の知識のみで一瞬で反論できるほどの誤りを含んだまま)記事を出したわけです＞＜
もちろん、オレンジの反論も検証されるべきなので、あとでいくつものLLMに穴をさがしてもらうつもりだけど＞＜(厳密に言えばそうする前にtootすることは悪いとも言えるけど)
はい、しましたし、LLMに任せて本人はサボる事で「LLMに任せるだけにして手抜きしたやつ」という形で評判に影響するとオレンジは当時反論したはず＞＜
orange
さんがブースト
評判クレジットによるシステムの話、前もしたな
orange
さんがブースト
今の社会は LLM に責任を負わせ(られ)るようになっていないというのを無視してない？
検証になっていないという主張が誤っていると言いたい＞＜
ここは2値では無い＞＜
人間だから評判という責任をとるシステムがあるから、こんな事実誤認に基づく記事を無検証に投げてもいいってわけ？＞＜
orange
さんがブースト
無論それは委託できるものを全て投げ出せという意味ではないが、予算が無限でないからこそ、何を手元に抱え何を捨てるのかはシビアに考えないと飽和しがちだし、そして時として他人の「抱えるか投げ出すかの判断」のコストを増大させるようなリクエストを大量投入すること自体が攻撃のような効果を発揮することもある
orange
さんがブースト
嘘だろうが本当だろうが、検証は無料ではなく、そして人間の社会では全員が全員検証する代わりに責任と評判というシステムを使ってその莫大な重複検証コストを削減している、ということを前提に考える必要がある
じゃああなたも手抜きしてLLMに検証してもらえばいいのでは？＞＜
検証するのがめんどくさいんでしょ？＞＜
と言いたい＞＜
orange
さんがブースト
orange
さんがブースト
お前のAIスロップなんざ誰も読みたくねえよ（送りつけてくんな） » p2ptk[.]org
https://p2ptk.org/ai/5481
> AI企業自身がAIの出力を監視する作業は価値ある労働だと言っている。お前が（自分にとっては）コストゼロで冗長でもっともらしいそれっぽい文章をいくらでも生成できるからといって、実際に物事を考え抜いて文章にしている人間がお前のチャットボットの宿題を採点してやる時間があるということにはならない。
これが本質でしょ
オレンジはLLMなんて使わなくても読んで1分もかからずこの反論に至ったけど、このSF作家の意見の矛盾と明かな事実誤認に気づけないならば、鵜呑みにするんじゃなくLLMに検証してもらう方がよほどマシだと思うよ＞＜
「AIは間違うこともあります」に関する話で人間も間違うことがありますであることに気づけないのは愚かだよ＞＜
- ＠orange_in_space
2017年 4月に登録
