«前の日記(2007年12月04日) 最新 次の日記(2007年12月06日)» 編集

日々をアレコレ


2007年12月05日

fmod

double型の剰余を求める関数なんて初めて知った。ついでに、コンパイラ依存かもしれないけど、%演算子が整数型じゃないと使えない場合があることも初めて知る。標準関数でも知らないことってたくさんあるなぁ。

で、現在、このfmodが悪さをしているので困っている。期待値とは異なる結果を返している。fmodの引数がともに正の数なのに、負の数を返すのだ。しかし、正の数になるまで割る数を足していくと期待値になるという。OSの実装でのバグ?

本日のツッコミ(全2件) [ツッコミを入れる]
さくらだ (2007年12月06日 01:15)

演算モノでのバグは結構聞きますね。√100を計算したら10にならなかったとか。<br>コンパイラの関数ライブラリの実装がヘタレな可能性はあります。

李徴 (2007年12月06日 08:21)

そもそも剰余って整数の世界の概念のような。(商を整数で打ち止めするから余りが生じるわけで。)


«前の日記(2007年12月04日) 最新 次の日記(2007年12月06日)» 編集