Objective-Cでの数値の丸め方:その2

公開日: : 最終更新日:2013/05/14 ブログ

スポンサード リンク

スポンサード リンク

こんばんは、プログラミングが進まなくてブログに逃避している Iwasaki です。

 

今回は前回に引き続き、有効数字に丸める方法です。

その2:有効数字の桁数を柔軟に変える方法

どういうことかというと、基本的には有効数字1桁でいいけど、1000の次が2000ってのは飛び過ぎっていう場合です。

まず、前回のコードを再掲します。

a = (int) log10 (x);
b = pow (10, a – 2);
y = (int) (x / b + 0.5) * b;

今回のコードはこうなります。

a = (int) log10 (x / 2);
b = pow (10, a – 0);
y = (int) (x / b + 0.5) * b;

1行目の x を 2 で割っていますね。
2行目の a – 0 の 0 は有効数字の桁数である 1 から 1 を引いた数字ってことです。
もちろん、実際は a でいいです。
あとは何も変えていません。

これで、先頭数字が2未満の 1234 は有効数字2桁の 1200 に丸められ、256 は 300 になります。

本当は昨日書きたかったんですが、ちょっと手こずりましたので(笑)。

ではまた!

 

スポンサード リンク

スポンサード リンク

関連してなさそうだけど面白いかもしれない記事

Mac OS 9 以前に拡張子なしで作った txt ファイルが OS X で exec(UNIX 実行ファイル)になって開けないときの対処法

  こんばんは、Iwasaki です。   今日のネタは、元オールド

記事を読む

no image

サルにもできる(?)霧箱の作り方 その3

こんにちは、Iwasaki です。 前回に引き続き、第3回は霧箱で見えた放射線がどこから来たの

記事を読む

ミラーレス一眼とは何か? メリット・デメリットは?

  こんばんは、趣味は写真というよりカメラの Iwasaki です。  

記事を読む

コスパのいい趣味はどっち? カメラは車よりお金がかからないって本当?

  こんにちは、多趣味の Iwasaki です。   カメラも車も 趣

記事を読む

今夜から明日の未明、しぶんぎ座流星群の極大で観測条件は最高ですよ!

  明けましておめでとうございます、寒がりの Iwasaki です。 2014年も W

記事を読む

Message

メールアドレスが公開されることはありません。 * が付いている欄は必須項目です

スポンサード リンク

スポンサード リンク
超簡単! きな粉で作る納豆味噌のレシピ

  こんにちは、計測マニアのイワサキです。  

ハチ(アシナガバチ)に刺されたが温熱療法が劇的に効いた!

温熱療法とは? 虫刺されの対処法はいろいろありますが、

大気減光の光路長の球体近似式を考てみた

大気減光の光路長とは? 夕日の写真や天体写真を撮るとき、光が大

珍しい大気光学現象、月虹 moonbow の写真

珍しい大気光学現象のひとつである月虹(英語でmoonbow)の写真が

COVID-19分析その4〜増加率で予想する米国の今後

こんにちは、計測マニア イワサキです。   イタ

→もっと見る

PAGE TOP ↑