Objective-Cでの数値の丸め方:その2

公開日: : 最終更新日:2013/05/14 ブログ

スポンサード リンク

スポンサード リンク

こんばんは、プログラミングが進まなくてブログに逃避している Iwasaki です。

 

今回は前回に引き続き、有効数字に丸める方法です。

その2:有効数字の桁数を柔軟に変える方法

どういうことかというと、基本的には有効数字1桁でいいけど、1000の次が2000ってのは飛び過ぎっていう場合です。

まず、前回のコードを再掲します。

a = (int) log10 (x);
b = pow (10, a – 2);
y = (int) (x / b + 0.5) * b;

今回のコードはこうなります。

a = (int) log10 (x / 2);
b = pow (10, a – 0);
y = (int) (x / b + 0.5) * b;

1行目の x を 2 で割っていますね。
2行目の a – 0 の 0 は有効数字の桁数である 1 から 1 を引いた数字ってことです。
もちろん、実際は a でいいです。
あとは何も変えていません。

これで、先頭数字が2未満の 1234 は有効数字2桁の 1200 に丸められ、256 は 300 になります。

本当は昨日書きたかったんですが、ちょっと手こずりましたので(笑)。

ではまた!

 

スポンサード リンク

スポンサード リンク

関連してなさそうだけど面白いかもしれない記事

足温器を買うのが面倒なのでアレで代用してみたら快適すぎた!

  こんにちは、寒がりの Iwasaki です。   福岡を南国と勘違

記事を読む

マニア向け ボケのすべて〜上級者編4:回折ボケ

こんばんは、iPhone4S と Siri の誘惑を Dragon Dictation で紛らわせて

記事を読む

新作 iPhoneアプリ「ボケ予測」リリース!

  皆様こんにちは! 他人様のアプリ紹介記事で日間アクセス自己最多を塗りかえた Iwas

記事を読む

もうすぐペルセウス座流星群と七夕(旧暦)ですよ

  こんばんは、意外とロマンチストの Iwasaki です。   今日

記事を読む

頭の体操:キッチンスケールなどの電子天びんで最大ひょう量より重いものを計る裏ワザ6つを図解

こんばんは、計測マニアの Iwasaki です。   キッチンスケールや体重計など

記事を読む

Message

メールアドレスが公開されることはありません。 が付いている欄は必須項目です

スポンサード リンク

スポンサード リンク
ようかん対決!とらやvs井村屋

  こんにちは、計測マニアのイワサキです。  

防犯カメラ ATOM Cam2 レビュー

  こんにちは、計測マニアのイワサキです。  

「ピタゴラスの定理」を図だけで証明

こんばんは、数学大好きイワサキです。 ずいぶん前に思いついた「ピ

虹メガネ(分光メガネ)のススメ

  こんばんは、計測マニアのイワサキです。  

超簡単! きな粉で作る納豆味噌のレシピ

  こんにちは、計測マニアのイワサキです。  

→もっと見る

Verified by MonsterInsights
PAGE TOP ↑