><https://twitter.com/orange_in_spacehttps://pawoo.net/@orange_in_space
それなー
範囲の設定が難しそう><
ないのかねぇ、近似的な比較演算子をもってるプログラミング言語って
あーでも nearly なんとかを作ろうとすると全部の比較演算子で必要になっちまうのか
個人的にはプログラミング言語に nearly equals 演算子みたいなものが欲しいとよく思う。
いやまぁ自分でインライン関数を書けばすむんだけどさ。
Intel BCD opcode - Wikipedia https://en.wikipedia.org/wiki/Intel_BCD_opcode
decimal命令自体はx86にはあったけどAMD64では削除されたっぽい?><
用途によるんじゃないかな
グラフィックス関連なんてfloatで充分だけど、MATLABの主用途は科学計算か。これも分野によりそう。
知らなかった><;
SSEならあつかえるっぽいな
普通のPCのCPUでは(たぶん)ネイティブ対応してなくて遅いのはわかるけど、でも、精度だいじょうぶなのか謎><;
decimal ってCPUで直で扱えないんでは?
AdaはCOBOLと互換性があるdecimalが言語仕様で用意されてる><(さすが国防総省向けプログラミング言語><)
オレンジ的にわけがわからないのが、MATLABとかその辺りの科学技術計算ソフトウェアがdecimalが標準じゃなくて普通のdouble使ってる所><
この問題があるからFORTRANとかCOBOLとかが未だに重要な訳で…(Cとかには信頼できる演算ライブラリが乏しかったり高価だったりした)。
C# にも decimal ってあるけどあれは128bit浮動小数点数だった気がする。
BCDを扱うならなんかのライブラリが必要になるのだろうな。
COBOLは二進化十進数が扱えた気がする
浮動小数点ならよくあること
double なら有効数字16桁前後ですからそんなもんですよ
ちょっとまって
博多港のやつはどうみても灯台の右左をなぜか勘違いして迷いなくズドンと突撃しておりますね。
思考の /dev/null