新しいものを表示

Z80でsqrt云々のを精度変えられるように拡張したの書きました>< --
C#で40行のコード書いたよ!ブラウザ上でプログラミング・実行できるよ! コードは paiza.io/projects/6d40lgQdwpMz

つまり10倍する為には、平方なんだから10の10倍にしないといけないから(例えば10m^2は100m^2の1/100なので)、つまり・・・なんて言っていいかわからないけどわかった><;(と思う><;)

orange さんがブースト

@orange_in_space 根号の中が10倍になると、平方根も√10倍になります。根号の中が100倍になれば平方根も√100=10倍になる、ということではないかと。ひとつ置きに10倍になってるのはそのためだと思います。

orange さんがブースト

素因数 2 と 5 のペアができるときとできないときが交互に来るからかな?

電子楽器いっぱい持ってる人は結構いるけど生楽器いっぱい持ってる人ってすごくすごく珍しい気がする・・・><

orange さんがブースト

自分の活動あまりここで出してませんでした…Webエンジニアと音楽家の二足の草鞋を履くことを目指している17歳JKです

mstdn.nere9.help/media/HO-OqwV mstdn.nere9.help/media/fmqEfYQ

数学苦手すぎてどうしてこうなるのかさっぱりわからない・・・>< mstdn.nere9.help/media/y_tP8aZ

FPU使わないように整数で計算する時のn倍にして扱う時のnって計算機用語でなんて言うんだろ?><; 信号処理で言うオーバーサンプリングみたいなの><;(なんて言うのか知らないままやってた><;)

sqrtの計算、整数の演算だけでどうにかしたい場合、例えばsqrt(x)を精度8倍のオーバーサンプリング(? なんて言えばいいんだろ?><;)で計算したい場合、x*8*8と比較すればいいっぽい><(小学生並みの算数><;)

全部整数で計算するCPU向けバージョンが作れなくてめげてきた><;

全部整数で計算するというかバイナリなバージョンを作ろうとしてこんがらがってきた><;

orange さんがブースト

昔の高速化アルゴリズムだと浮動小数点計算は避けるよね.ブレゼンハムの直線描画アルゴリズムとか典型的.

ブレゼンハムのアルゴリズム - Wikipedia
ja.wikipedia.org/wiki/%E3%83%9

ソフトウェアシンセとかだとシビアすぎて整数じゃないととんでもない事になる(間に合わない)場面もまれにあったりするけど、でも、一般に極端に整数のみで計算しようとしちゃう人がわりと普通にいるのは、FPUが無いのが普通だった頃の名残っぽさを感じる><;

よくわからないけど、一般にCPUが整数を計算する方が、普通のFPUが普通の浮動小数点な計算をするよりも速いかも・・・?><

orange さんがブースト

えっ じゃあ整数計算も浮動小数点数に変換して計算した方が良いものなの??そう単純ではないものなの

つまり、普通はどうやってるのか?を厳密に調べるには、そこらのCPUというかFPUのマイクロコードを見る必要がある?><;(RISCの場合って命令あるのかな?><)

実際はどうやってるのか知らないまま自分で作った><;(普通はCPU(FPU)にsqrt計算する命令があるのでそれつかうっぽい><(glibcのソース斜め読みしたらそうなってた><))

orange さんがブースト

>sqrt()の自作
へー!ほー、こんな感じなのか。

参考文献>< -- Z80での平方根計算が非常におもしろい件 - きしだのはてな (id:nowokay) d.hatena.ne.jp/nowokay/2012060

古いものを表示
:realtek:

思考の /dev/null