Objective-Cでの数値の丸め方:その2

公開日: : 最終更新日:2013/05/14 ブログ

スポンサード リンク

スポンサード リンク

こんばんは、プログラミングが進まなくてブログに逃避している Iwasaki です。

 

今回は前回に引き続き、有効数字に丸める方法です。

その2:有効数字の桁数を柔軟に変える方法

どういうことかというと、基本的には有効数字1桁でいいけど、1000の次が2000ってのは飛び過ぎっていう場合です。

まず、前回のコードを再掲します。

a = (int) log10 (x);
b = pow (10, a – 2);
y = (int) (x / b + 0.5) * b;

今回のコードはこうなります。

a = (int) log10 (x / 2);
b = pow (10, a – 0);
y = (int) (x / b + 0.5) * b;

1行目の x を 2 で割っていますね。
2行目の a – 0 の 0 は有効数字の桁数である 1 から 1 を引いた数字ってことです。
もちろん、実際は a でいいです。
あとは何も変えていません。

これで、先頭数字が2未満の 1234 は有効数字2桁の 1200 に丸められ、256 は 300 になります。

本当は昨日書きたかったんですが、ちょっと手こずりましたので(笑)。

ではまた!

 

スポンサード リンク

スポンサード リンク

関連してなさそうだけど面白いかもしれない記事

App Store のランキングはどうやって決まるのか? その1

こんにちは、計測マニアの Iwasaki です。   新作 iPhone

記事を読む

中国からの越境大気汚染 PM 2.5 に注意! サイトやアプリでチェックしよう

  こんにちは、空を見るのが好きな Iwasaki です。   中国か

記事を読む

皆既月食(2014年10月8日)の写真14連発! ミニ・グリーンフラッシュも

こんばんは、Iwasaki です。   みなさんは昨夜(2014年10月8日)の皆

記事を読む

なんと! App Store の iPhone 有料アプリ国内市場はここ1年で半分以下に縮小!?

  こんばんは、解析大好き Iwasaki です。   今回は、iPh

記事を読む

ボケ講座番外編3:iPhoneのカメラでボケ表現を可能にする2つの方法

  こんにちは、最近Twitter界隈ではボケ先生などと名乗っている Iwasaki で

記事を読む

Message

メールアドレスが公開されることはありません。 * が付いている欄は必須項目です

スポンサード リンク

スポンサード リンク
福岡陸運支局で初のユーザー車検

こんにちは、計測マニアのイワサキです。   今日、自

ブロッケン現象と富士山と上空の放射線量(0.55μSv/h)

こんにちは、飛行機大好きイワサキです。 飛行機に乗るときは必ず窓

2017/03/12の内暈と 2015/10/02のグリーンフラッシュ

こんにちは、sky gazer のイワサキです。 内暈(ないうん

no image
スマートメーターと Wi-SUN 通信用 USB ドングルを使った電力使用量の「見える化」

こんにちは、計測マニアのイワサキです。 ずいぶんと更新をサボって

[めし] 食べログ点数つき 博多うどん & 福岡うどん 名店一覧

こんにちは、麺喰いのイワサキです。   うどん発祥の

→もっと見る

PAGE TOP ↑