新しいものを表示

FPU使わないように整数で計算する時のn倍にして扱う時のnって計算機用語でなんて言うんだろ?><; 信号処理で言うオーバーサンプリングみたいなの><;(なんて言うのか知らないままやってた><;)

sqrtの計算、整数の演算だけでどうにかしたい場合、例えばsqrt(x)を精度8倍のオーバーサンプリング(? なんて言えばいいんだろ?><;)で計算したい場合、x*8*8と比較すればいいっぽい><(小学生並みの算数><;)

全部整数で計算するCPU向けバージョンが作れなくてめげてきた><;

全部整数で計算するというかバイナリなバージョンを作ろうとしてこんがらがってきた><;

orange さんがブースト

昔の高速化アルゴリズムだと浮動小数点計算は避けるよね.ブレゼンハムの直線描画アルゴリズムとか典型的.

ブレゼンハムのアルゴリズム - Wikipedia
ja.wikipedia.org/wiki/%E3%83%9

ソフトウェアシンセとかだとシビアすぎて整数じゃないととんでもない事になる(間に合わない)場面もまれにあったりするけど、でも、一般に極端に整数のみで計算しようとしちゃう人がわりと普通にいるのは、FPUが無いのが普通だった頃の名残っぽさを感じる><;

よくわからないけど、一般にCPUが整数を計算する方が、普通のFPUが普通の浮動小数点な計算をするよりも速いかも・・・?><

orange さんがブースト

えっ じゃあ整数計算も浮動小数点数に変換して計算した方が良いものなの??そう単純ではないものなの

つまり、普通はどうやってるのか?を厳密に調べるには、そこらのCPUというかFPUのマイクロコードを見る必要がある?><;(RISCの場合って命令あるのかな?><)

実際はどうやってるのか知らないまま自分で作った><;(普通はCPU(FPU)にsqrt計算する命令があるのでそれつかうっぽい><(glibcのソース斜め読みしたらそうなってた><))

orange さんがブースト

>sqrt()の自作
へー!ほー、こんな感じなのか。

参考文献>< -- Z80での平方根計算が非常におもしろい件 - きしだのはてな (id:nowokay) d.hatena.ne.jp/nowokay/2012060

ツイッターでお約束の「平方根って何にの役に立つんだよ?」の話題であれで「そういえばsqrt()ってどうやって計算してるか知らない><;」って事で自作してみました><
C#で47行のコード書いたよ!ブラウザ上でプログラミング・実行できるよ! コードは
paiza.io/projects/qYDAMr9b7VHs

コスト的にできる限りあんまり遠くまで走らせたくないみたいな話がなんかに書いてあった気がする><(かといって取手までだと微妙とか何とか・・・><(あやふや))

orange さんがブースト
orange さんがブースト

品川までは直通してるけどもっとこう国府津までいってほしい

orange さんがブースト

常磐線も東海道線に直通してほしい

orange さんがブースト

御殿場線が東海道本線時代の映像で蒸気機関車の補機をケツに付けて一瞬で発車してキツい区間が終わったら無停車切り離しする映像かっこよすぎる

古いものを表示
:realtek:

思考の /dev/null