2011年11月9日水曜日

数値処理:四捨五入・切り上げ・切り捨て

<Xcode開発:Cocoa環境>
浮動小数点数の四捨五入・切り上げ・切り捨てはC言語の数学演算ライブラリ(Math.h)を利用する。


四捨五入
round(double)
roundf(float)
roundl(long double)

切り上げ
ceil(double)
ceilf(float)
ceill(long double)

切り捨て
floor(double)
floorf(float)
floorl(long double)

2 件のコメント:

  1. floorf(float)をしてみたのですが、最後に0000と0がたくさんついてしまいます。
    直す方法はないのでしょうか?
    ご教示いただけると幸いです。

    返信削除
    返信
    1. 何をどう記述しての話なのか分かりませんので答えようがないのですが。。。
      float f = 1.7f;
      float a = floorf(f);
      NSLog(@"f=%f, a=%f", f, a);
      こんな感じのコーディングで「f=1.700000, a=1.000000」って表示されるのは何故かとの質問でしょうか?

      削除