フォロー

よくわかんないけど、倍精度に変換してから単精度に戻すのと、単精度のままで計算するのをくらべたらそりゃ精度変わりそうな気がするけど、
つまり、単精度で計算させるように書いたつもりが勝手にコンパイラが倍精度に直して計算しちゃう 微妙に気持ち悪い事してるって話・・・?><

· · SubwayTooter · 0 · 0 · 0
ログインして会話に参加
:realtek:

思考の /dev/null