Objective-Cでの数値の丸め方:その2

公開日: : 最終更新日:2013/05/14 ブログ

スポンサード リンク

スポンサード リンク

こんばんは、プログラミングが進まなくてブログに逃避している Iwasaki です。

 

今回は前回に引き続き、有効数字に丸める方法です。

その2:有効数字の桁数を柔軟に変える方法

どういうことかというと、基本的には有効数字1桁でいいけど、1000の次が2000ってのは飛び過ぎっていう場合です。

まず、前回のコードを再掲します。

a = (int) log10 (x);
b = pow (10, a – 2);
y = (int) (x / b + 0.5) * b;

今回のコードはこうなります。

a = (int) log10 (x / 2);
b = pow (10, a – 0);
y = (int) (x / b + 0.5) * b;

1行目の x を 2 で割っていますね。
2行目の a – 0 の 0 は有効数字の桁数である 1 から 1 を引いた数字ってことです。
もちろん、実際は a でいいです。
あとは何も変えていません。

これで、先頭数字が2未満の 1234 は有効数字2桁の 1200 に丸められ、256 は 300 になります。

本当は昨日書きたかったんですが、ちょっと手こずりましたので(笑)。

ではまた!

 

スポンサード リンク

スポンサード リンク

関連してなさそうだけど面白いかもしれない記事

なんと! App Store の iPhone 有料アプリ国内市場はここ1年で半分以下に縮小!?

  こんばんは、解析大好き Iwasaki です。   今回は、iPh

記事を読む

カメラ初心者におくる被写体選びのヒント〜写真には愛が写る

こんにちは、カメラマニアのイワサキです。 技術的な話が多い当ブログですが、今回はちょっと観念的

記事を読む

no image

テストフライトのチームに新メンバーを追加する方法

  こんばんは、最近アプリのリリースが停滞気味の Iwasaki です。 水面下でやっ

記事を読む

今日から「iTunes 12 DAYS プレゼント」だけど注意点が2つ〜下手すると有料?

こんにちは、Iwasaki です。  

記事を読む

no image

iPad で1つ前のアプリに瞬時に切り替える方法

こんばんは、iPad をほぼ100% 寝モバに使ってる Iwasaki です。  

記事を読む

Message

メールアドレスが公開されることはありません。 * が付いている欄は必須項目です

スポンサード リンク

スポンサード リンク
超簡単! きな粉で作る納豆味噌のレシピ

  こんにちは、計測マニアのイワサキです。  

ハチ(アシナガバチ)に刺されたが温熱療法が劇的に効いた!

温熱療法とは? 虫刺されの対処法はいろいろありますが、

大気減光の光路長の球体近似式を考てみた

大気減光の光路長とは? 夕日の写真や天体写真を撮るとき、光が大

珍しい大気光学現象、月虹 moonbow の写真

珍しい大気光学現象のひとつである月虹(英語でmoonbow)の写真が

COVID-19分析その4〜増加率で予想する米国の今後

こんにちは、計測マニア イワサキです。   イタ

→もっと見る

PAGE TOP ↑