Objective-Cでの数値の丸め方:その2
公開日:
:
最終更新日:2013/05/14
ブログ
スポンサード リンク
こんばんは、プログラミングが進まなくてブログに逃避している Iwasaki です。
今回は前回に引き続き、有効数字に丸める方法です。
その2:有効数字の桁数を柔軟に変える方法
どういうことかというと、基本的には有効数字1桁でいいけど、1000の次が2000ってのは飛び過ぎっていう場合です。
まず、前回のコードを再掲します。
a = (int) log10 (x);
b = pow (10, a – 2);
y = (int) (x / b + 0.5) * b;
今回のコードはこうなります。
a = (int) log10 (x / 2);
b = pow (10, a – 0);
y = (int) (x / b + 0.5) * b;
1行目の x を 2 で割っていますね。
2行目の a – 0 の 0 は有効数字の桁数である 1 から 1 を引いた数字ってことです。
もちろん、実際は a でいいです。
あとは何も変えていません。
これで、先頭数字が2未満の 1234 は有効数字2桁の 1200 に丸められ、256 は 300 になります。
本当は昨日書きたかったんですが、ちょっと手こずりましたので(笑)。
ではまた!
スポンサード リンク
関連してなさそうだけど面白いかもしれない記事
-
Mac OS 9 以前に拡張子なしで作った txt ファイルが OS X で exec(UNIX 実行ファイル)になって開けないときの対処法
こんばんは、Iwasaki です。 今日のネタは、元オールド
-
5月31日に火星が最接近、まだ間に合います!
こんにちは、イワサキです。 今、火星が地球に接近してて大きく見えるので「スーパーマーズ
-
無料画像編集・加工アプリ GIMP でよく出る文字入力が出来ないバグの対処法
みなさんは、どんな画像編集・加工アプリをお使いですか? 本格的な画像処理をする人なら、Phot
-
デジタル一眼を買った初心者が最初にすべきこと:その3 絞りの効果を知る
こんにちは、Iwasaki です。 前回までに、初心者は単焦点
-
続:自サイトの負荷軽減対策を行ったら かなり高速化できた件
こんにちは、Iwasaki です。 昨日の記事では、Cloud
- PREV
- ちょっと変わった私の蚊対策いろいろ
- NEXT
- [めし] 熟成7ヶ月の自家製生ハム(コッパもどき)