こんにちはゲストさん。会員登録(無料)して質問・回答してみよう!

解決済みの質問

有効数字がバラバラな時の対処について

例えば電流を測定した時:
測定1: 0.123[mA] / 有効数字3桁
測定2: 0.012[mA] / 有効数字2桁
測定3: 0.001[mA] / 有効数字1桁
となったとして,このままなら問題ないのですが,指数表示すると,
測定1: 1.23 * 10^-1[mA] / 有効数字3桁
測定2: 1.2 * 10^-2[mA] / 有効数字2桁
測定3: 1 * 10^-3[mA] / 有効数字1桁
となって,違和感を感じます.有効数字を維持するのが大前提だとは思いますが,どうにもすっきりしません.なんとかすっきりする方法をご存じないでしょうか.お知恵をお貸しください.よろしくお願いします.

投稿日時 - 2017-09-04 19:41:22

QNo.9370923

困ってます

質問者が選んだベストアンサー

測定1~3まで、すべて有効数字は、小数点以下3桁で統一されていますが。。。
なにを言われたいのかわかりません。。。


測定1: 1.23 * 10^-1[mA] / 有効数字3桁
測定2: 1.2 * 10^-2[mA] / 有効数字2桁
測定3: 1 * 10^-3[mA] / 有効数字1桁
となって,違和感を感じます。

なら、
測定1: 123 * 10^-3[mA]
測定2: 12 * 10^-3[mA]
測定3: 1 * 10^-3[mA]
と、表示するだけで良いのでは?
一般的に、MKS単位系では3桁ごとの表記が普通なので、乗数も3の倍数にすれば良いだけの話だと思います。
なんでわざわざ見にくいように揃えない様にするのか、何か意図があって見にくくして居るのかわかりませんが。。。

投稿日時 - 2017-09-04 20:02:19

補足

度々すみません.では,このような場合:
測定1: 123[mA] / 有効数字3桁
測定2: 12[mA] / 有効数字2桁
測定3: 1[mA] / 有効数字1桁
が,
測定1: 1.23 * 10^2[mA] / 有効数字3桁
測定2: 1.2 * 10^1[mA] / 有効数字2桁
測定3: 1 * 10^0[mA] / 有効数字1桁
となりますが,その場合に於ける何かいいアイデアはないでしょうか.
(実際のところ,現在進行形で困っています.1000mAレンジと1000uAレンジで電流を測定し,混在する[mA]と[uA]の単位を[A]単位で統一したい場合は,指数表示という選択に絞られますが,そうした場合,有効数字がバラバラになっていてどうしたものかと困っているのです.
例:
1234[mA] / 有効数字4桁 / 1.234 * 10^0 [A]
34[mA] / 有効数字2桁 / 3.4 * 10^-2 [A]
7[uA] / 有効数字1桁 / 7 * 10-6 [A]

投稿日時 - 2017-09-04 20:36:54

お礼

一夜考えて改まりました。kisinaituiのお答えが尤もです。ありがとうございました。確かにスッキリしていると思います。

投稿日時 - 2017-09-05 18:08:36

このQ&Aは役に立ちましたか?

0人が「このQ&Aが役に立った」と投票しています

回答(5)

ANo.5

>どうにもすっきりしません.
↑ここが間違ってます。
そもそも測定の有効数字が異なるのが、すっきりしていないのだから、すっきりしない書き方をするのが正しいです。

ところで、測定に使った機器は、どれだけの精度の物ですか?
相当な高級品でない限り、3桁精度の測定器は少ないですが
http://jp.rs-online.com/web/generalDisplay.html?id=centre/eem_mrtech0703
まず、この点をすっきりさせましょう。

投稿日時 - 2017-09-05 10:34:17

ANo.4

本件は手書き?
それともパソコン表示の話?

そもそも普通のパソコン内部計算はデフォルトで単精度浮動小数点
その表示を変えてるに過ぎない
データ自体は
https://ja.wikipedia.org/wiki/IEEE_754
なので小数点以下の有効数字は1×10^-101まである
但し、最後の一桁あたりはそれなりに誤差が出るが
たかが小数点以下3桁やそこらでとやかく言うほどの誤差は無い

因みにエクセルで↓の計算すると
1.0+2.3456789=3.3456789
有効数字は勝手に一番桁数の多いヤツになる

>有効数字を維持するのが大前提だとは思いますが
それがどーしたレベルの話

投稿日時 - 2017-09-04 22:04:27

ANo.3

>度々すみません.では,このような場合:
>測定1: 123[mA] / 有効数字3桁
>測定2: 12[mA] / 有効数字2桁
>測定3: 1[mA] / 有効数字1桁
>が,
>測定1: 1.23 * 10^2[mA] / 有効数字3桁
>測定2: 1.2 * 10^1[mA] / 有効数字2桁
>測定3: 1 * 10^0[mA] / 有効数字1桁
>となりますが,その場合に於ける何かいいアイデアはないでしょうか.

あなたがなにをやられたいのか理解に苦しむ内容です。

数字を一桁に合わせたいのか、測定値としての整合性を取りたいのか、
意味なく、指数表示にするだけを目的にして居るのか、理解ができません。

>(実際のところ,現在進行形で困っています.1000mAレンジと1000uAレンジで電流を測定し,混在する[mA]と[uA]の単位を[A]単位で統一したい場合は,指数表示という選択に絞られますが,そうした場合,有効数字がバラバラになっていてどうしたものかと困っているのです.
>例:
>1234[mA] / 有効数字4桁 / 1.234 * 10^0 [A]
>34[mA] / 有効数字2桁 / 3.4 * 10^-2 [A]
>7[uA] / 有効数字1桁 / 7 * 10-6 [A]

ですから、なんで指数表示の乗数を揃えてはいけないんでしょうか?ということなんですよ。

μAに統一したいのなら^6で統一すれば良いだけの話。
それを指数をいじくって居るところの意味がわからないんです。
あなたの基準では、整数値は一桁しか許されないという基準なのでしょうか?

それで合わせたいというのなら、それが基準なのですから、指数値がめちゃめちゃでわかりにくくたって、それがあなたの基準である以上、それを見やすくしろといっても無理でしかありません。

そもそも、見やすくするために指数表示にして居るのに、それをわざわざ見にくく使って居る時点でなにをやりたいのかがわからないんです。

たんん毒表記なら構いませんが、比較する場合は基準を合わせるというのは、小学校でも教わって居るレベルの話だと思いますが。

1200mと、3.2kmと、200000cmを、比べましょう。という時、どう教わったでしょう?
まぁ、慣れて居る人なら即座にイメージがわかっりますがそうでない人なら、どうするでしょう?

指数というのは、単位系と同じ様な意味合いを持つものですので、そっちがバラバラであれば比べるのは非常にめんどくさくなるだけのものですが。。。

投稿日時 - 2017-09-04 21:17:18

ANo.2

 
一般的には指数表示しません
0.123mA
0.012mA
0.001mA (または1μA)
と書きます
 

投稿日時 - 2017-09-04 20:10:36

あなたにオススメの質問