Objective-Cでの数値の丸め方:その2

公開日: : 最終更新日:2013/05/14 ブログ

スポンサード リンク

スポンサード リンク

こんばんは、プログラミングが進まなくてブログに逃避している Iwasaki です。

 

今回は前回に引き続き、有効数字に丸める方法です。

その2:有効数字の桁数を柔軟に変える方法

どういうことかというと、基本的には有効数字1桁でいいけど、1000の次が2000ってのは飛び過ぎっていう場合です。

まず、前回のコードを再掲します。

a = (int) log10 (x);
b = pow (10, a – 2);
y = (int) (x / b + 0.5) * b;

今回のコードはこうなります。

a = (int) log10 (x / 2);
b = pow (10, a – 0);
y = (int) (x / b + 0.5) * b;

1行目の x を 2 で割っていますね。
2行目の a – 0 の 0 は有効数字の桁数である 1 から 1 を引いた数字ってことです。
もちろん、実際は a でいいです。
あとは何も変えていません。

これで、先頭数字が2未満の 1234 は有効数字2桁の 1200 に丸められ、256 は 300 になります。

本当は昨日書きたかったんですが、ちょっと手こずりましたので(笑)。

ではまた!

 

スポンサード リンク

スポンサード リンク

関連してなさそうだけど面白いかもしれない記事

no image

福岡県民必見! どの市町村や区が人口密度の割に犯罪発生率が高いのか?

こんばんは、福岡市在住 ン十年の Iwasaki です。   前回の記事で書いた、

記事を読む

今日から「iTunes 12 DAYS プレゼント」だけど注意点が2つ〜下手すると有料?

こんにちは、Iwasaki です。  

記事を読む

微粉粒が少なく均一に挽けるコーヒー・ミルはプロペラ式か臼式か? 〜粒度分布を実測してみた

こんばんは、計測マニアのイワサキです。 最近、コーヒーをよく飲むようになりまして、先日

記事を読む

App Store のランキングはどうやって決まるのか? その4

こんにちは、iPhone にはケースもフィルムも付けない派の Iwasaki です。 とい

記事を読む

Mac OS 9 以前に拡張子なしで作った txt ファイルが OS X で exec(UNIX 実行ファイル)になって開けないときの対処法

  こんばんは、Iwasaki です。   今日のネタは、元オールド

記事を読む

Message

メールアドレスが公開されることはありません。 * が付いている欄は必須項目です

スポンサード リンク

スポンサード リンク
ブロッケン現象と富士山と上空の放射線量(0.55μSv/h)

こんにちは、飛行機大好きイワサキです。 飛行機に乗るときは必ず窓

2017/03/12の内暈と 2015/10/02のグリーンフラッシュ

こんにちは、sky gazer のイワサキです。 内暈(ないうん

no image
スマートメーターと Wi-SUN 通信用 USB ドングルを使った電力使用量の「見える化」

こんにちは、計測マニアのイワサキです。 ずいぶんと更新をサボって

[めし] 食べログ点数つき 博多うどん & 福岡うどん 名店一覧

こんにちは、麺喰いのイワサキです。   うどん発祥の

no image
今年の夏至は6月21日、でも日の入りが一番遅いわけではない?

こんにちは、イワサキです。   6月21日は、今

→もっと見る

PAGE TOP ↑