Objective-Cでの数値の丸め方:その2

公開日: : 最終更新日:2013/05/14 ブログ

スポンサード リンク

スポンサード リンク

こんばんは、プログラミングが進まなくてブログに逃避している Iwasaki です。

 

今回は前回に引き続き、有効数字に丸める方法です。

その2:有効数字の桁数を柔軟に変える方法

どういうことかというと、基本的には有効数字1桁でいいけど、1000の次が2000ってのは飛び過ぎっていう場合です。

まず、前回のコードを再掲します。

a = (int) log10 (x);
b = pow (10, a – 2);
y = (int) (x / b + 0.5) * b;

今回のコードはこうなります。

a = (int) log10 (x / 2);
b = pow (10, a – 0);
y = (int) (x / b + 0.5) * b;

1行目の x を 2 で割っていますね。
2行目の a – 0 の 0 は有効数字の桁数である 1 から 1 を引いた数字ってことです。
もちろん、実際は a でいいです。
あとは何も変えていません。

これで、先頭数字が2未満の 1234 は有効数字2桁の 1200 に丸められ、256 は 300 になります。

本当は昨日書きたかったんですが、ちょっと手こずりましたので(笑)。

ではまた!

 

スポンサード リンク

スポンサード リンク

関連してなさそうだけど面白いかもしれない記事

no image

新作 iPhoneアプリ「ゼロヨン計測」リリース!

こんにちは、Iwasaki です。   今日、新作がリリースされました。 第二

記事を読む

天体写真の固定撮影で 恒星が流れず点に写る最大秒数の計算法 〜 レンズ焦点距離、画素数、撮像素子フォーマットとの関係

こんにちは、Iwasaki です。   天体写真の固定撮影とは? 本格的な天体写

記事を読む

no image

IT の進歩について思うこと

こんにちは、台風16号が非常に心配な 福岡の Iwasaki です。 iPhone 5 の発表

記事を読む

初心者向け Exif 情報の危険性と活用法〜その3: Mac での見方

こんばんは、Iwasaki です。   前回は、iPhone に保存された写真の

記事を読む

意外と簡単? 稲妻(稲光、雷)の写真を iPhone で撮影するコツ

  こんばんは、sky gazer の Iwasaki です。  

記事を読む

Message

メールアドレスが公開されることはありません。 * が付いている欄は必須項目です

スポンサード リンク

スポンサード リンク
ブロッケン現象と富士山と上空の放射線量(0.55μSv/h)

こんにちは、飛行機大好きイワサキです。 飛行機に乗るときは必ず窓

2017/03/12の内暈と 2015/10/02のグリーンフラッシュ

こんにちは、sky gazer のイワサキです。 内暈(ないうん

no image
スマートメーターと Wi-SUN 通信用 USB ドングルを使った電力使用量の「見える化」

こんにちは、計測マニアのイワサキです。 ずいぶんと更新をサボって

[めし] 食べログ点数つき 博多うどん & 福岡うどん 名店一覧

こんにちは、麺喰いのイワサキです。   うどん発祥の

no image
今年の夏至は6月21日、でも日の入りが一番遅いわけではない?

こんにちは、イワサキです。   6月21日は、今

→もっと見る

PAGE TOP ↑