新しいものを表示
orange さんがブースト
orange さんがブースト

ないのかねぇ、近似的な比較演算子をもってるプログラミング言語って

スレッドを表示
orange さんがブースト

あーでも nearly なんとかを作ろうとすると全部の比較演算子で必要になっちまうのか

スレッドを表示
orange さんがブースト

個人的にはプログラミング言語に nearly equals 演算子みたいなものが欲しいとよく思う。

いやまぁ自分でインライン関数を書けばすむんだけどさ。

Intel BCD opcode - Wikipedia en.wikipedia.org/wiki/Intel_BC

decimal命令自体はx86にはあったけどAMD64では削除されたっぽい?><

orange さんがブースト

用途によるんじゃないかな

グラフィックス関連なんてfloatで充分だけど、MATLABの主用途は科学計算か。これも分野によりそう。

orange さんがブースト

普通のPCのCPUでは(たぶん)ネイティブ対応してなくて遅いのはわかるけど、でも、精度だいじょうぶなのか謎><;

orange さんがブースト

decimal ってCPUで直で扱えないんでは?

AdaはCOBOLと互換性があるdecimalが言語仕様で用意されてる><(さすが国防総省向けプログラミング言語><)

オレンジ的にわけがわからないのが、MATLABとかその辺りの科学技術計算ソフトウェアがdecimalが標準じゃなくて普通のdouble使ってる所><

orange さんがブースト

この問題があるからFORTRANとかCOBOLとかが未だに重要な訳で…(Cとかには信頼できる演算ライブラリが乏しかったり高価だったりした)。

orange さんがブースト

C# にも decimal ってあるけどあれは128bit浮動小数点数だった気がする。

BCDを扱うならなんかのライブラリが必要になるのだろうな。

orange さんがブースト

COBOLは二進化十進数が扱えた気がする

orange さんがブースト
orange さんがブースト

double なら有効数字16桁前後ですからそんなもんですよ

orange さんがブースト
orange さんがブースト

博多港のやつはどうみても灯台の右左をなぜか勘違いして迷いなくズドンと突撃しておりますね。

古いものを表示
:realtek:

思考の /dev/null