Objective-Cでの数値の丸め方:その2

公開日: : 最終更新日:2013/05/14 ブログ

スポンサード リンク

スポンサード リンク

こんばんは、プログラミングが進まなくてブログに逃避している Iwasaki です。

 

今回は前回に引き続き、有効数字に丸める方法です。

その2:有効数字の桁数を柔軟に変える方法

どういうことかというと、基本的には有効数字1桁でいいけど、1000の次が2000ってのは飛び過ぎっていう場合です。

まず、前回のコードを再掲します。

a = (int) log10 (x);
b = pow (10, a – 2);
y = (int) (x / b + 0.5) * b;

今回のコードはこうなります。

a = (int) log10 (x / 2);
b = pow (10, a – 0);
y = (int) (x / b + 0.5) * b;

1行目の x を 2 で割っていますね。
2行目の a – 0 の 0 は有効数字の桁数である 1 から 1 を引いた数字ってことです。
もちろん、実際は a でいいです。
あとは何も変えていません。

これで、先頭数字が2未満の 1234 は有効数字2桁の 1200 に丸められ、256 は 300 になります。

本当は昨日書きたかったんですが、ちょっと手こずりましたので(笑)。

ではまた!

 

スポンサード リンク

スポンサード リンク

関連してなさそうだけど面白いかもしれない記事

クラゲを飼おう!

こんにちは、動物大好きの Iwasaki です。   もう4年ほど前になりますが、

記事を読む

ヒトにも偏光検知能があった! 君はハイディンガーのブラシを見たか?

こんばんは、光学大好きのイワサキです。   ハイディンガーのブラシってご存知ですか

記事を読む

なにこれ!Google Maps のアップデートで建物の内部の各階の店舗まで!

  こんにちは、方向音痴には自信がある Iwasaki です。   と

記事を読む

Google 検索 BAN から復活するまでの道のり

こんにちは、Iwasaki です。   一昨日ごろより当サイトが、Goog

記事を読む

もうすぐペルセウス座流星群と七夕(旧暦)ですよ

  こんばんは、意外とロマンチストの Iwasaki です。   今日

記事を読む

Message

メールアドレスが公開されることはありません。 が付いている欄は必須項目です

スポンサード リンク

スポンサード リンク
ようかん対決!とらやvs井村屋

  こんにちは、計測マニアのイワサキです。  

防犯カメラ ATOM Cam2 レビュー

  こんにちは、計測マニアのイワサキです。  

「ピタゴラスの定理」を図だけで証明

こんばんは、数学大好きイワサキです。 ずいぶん前に思いついた「ピ

虹メガネ(分光メガネ)のススメ

  こんばんは、計測マニアのイワサキです。  

超簡単! きな粉で作る納豆味噌のレシピ

  こんにちは、計測マニアのイワサキです。  

→もっと見る

Verified by MonsterInsights
PAGE TOP ↑