Objective-Cでの数値の丸め方:その2

公開日: : 最終更新日:2013/05/14 ブログ

スポンサード リンク

スポンサード リンク

こんばんは、プログラミングが進まなくてブログに逃避している Iwasaki です。

 

今回は前回に引き続き、有効数字に丸める方法です。

その2:有効数字の桁数を柔軟に変える方法

どういうことかというと、基本的には有効数字1桁でいいけど、1000の次が2000ってのは飛び過ぎっていう場合です。

まず、前回のコードを再掲します。

a = (int) log10 (x);
b = pow (10, a – 2);
y = (int) (x / b + 0.5) * b;

今回のコードはこうなります。

a = (int) log10 (x / 2);
b = pow (10, a – 0);
y = (int) (x / b + 0.5) * b;

1行目の x を 2 で割っていますね。
2行目の a – 0 の 0 は有効数字の桁数である 1 から 1 を引いた数字ってことです。
もちろん、実際は a でいいです。
あとは何も変えていません。

これで、先頭数字が2未満の 1234 は有効数字2桁の 1200 に丸められ、256 は 300 になります。

本当は昨日書きたかったんですが、ちょっと手こずりましたので(笑)。

ではまた!

 

スポンサード リンク

スポンサード リンク

関連してなさそうだけど面白いかもしれない記事

no image

テストフライトのチームに新メンバーを追加する方法

  こんばんは、最近アプリのリリースが停滞気味の Iwasaki です。 水面下でやっ

記事を読む

視野率100%じゃない iPhone 5 の標準カメラの代替えアプリ

こんばんは、Iwasaki です。 1週間前の記事、iPhone 5 のカメラ

記事を読む

意外と簡単? 稲妻(稲光、雷)の写真を iPhone で撮影するコツ

  こんばんは、sky gazer の Iwasaki です。  

記事を読む

カメラのファインダーを覗く目は右? 左? それとも利き目?

こんばんは、サウスポーの Iwasaki です。   昨日、知り合いの ととさんの

記事を読む

マニア向け ボケのすべて〜上級者編3:ボケ円径の実測とボケ味の評価

こんばんは、レンズグルメの写真下手、Iwasaki です。   今回は実際に手持ち

記事を読む

Message

メールアドレスが公開されることはありません。 * が付いている欄は必須項目です

スポンサード リンク

スポンサード リンク
COVID-19分析その3〜増加率による感染爆発の判断と暗算法

こんにちは、計測マニアのイワサキです。 今回もコロナ関連です。

各国のCOVID-19状況の分析 (2020/03/22時点) その2 〜感染爆発期の致死率は信用できない

こんばんは、計測マニア イワサキです。 昨日にひきつづき、新型コロナ

各国のCOVID-19状況の分析 (2020/03/22時点) その1 〜ホットスポットはポルトガルとアメリカ

こんにちは、計測マニア イワサキです。 新型コロナウイルス感染症(C

ボケ円径、ボケ量、ボケの大きさの計算原理

  お久しぶりです、Iwasaki です。  

福岡陸運支局で初のユーザー車検

こんにちは、計測マニアのイワサキです。   今日、自

→もっと見る

PAGE TOP ↑