« 閑話休題 その1 | Main | 圧力の単位について »

September 21, 2007

4-1/2桁って何ですか?

 桁数というのは、自然数であることが普通ですが、時折、1/2桁という表示にお目にかかることがあります。で、この1/2桁って何ですか?という質問がありました。(前も、似たような質問があったような気もします・・・)
 デジタルマルチメータを含め、デジタル表示器のカタログには、カタログ上に1/2桁という表示があったりします。これは、十進表記の場合、0から9の値を取ることができると、1桁ということになります。これに対して、0と1の表記しかできない桁がある場合に、1/2桁という表示を用いているようです。
 つまり、4-1/2桁という表記の場合は、0~19999までを表示できるという意味になります。
 これは、KEITHLEYの高感度測定ハンドブックに書いてある文章を参考とさせていただきました。ただし、記述としては、0~2という表示の場合も、1/2桁と表示しているメーカがあるので、完全に0~9までの表示ができない桁がある場合に、1/2桁という表示を用いると考えた方がいいかもしれません。

 正確に表記したいと考える場合は、桁数表記ではなく、カウント数表記にする方が誤解はなくなります。0~19999まで表示できる場合は、カウント数表記だと20000カウントとなります。桁数表記は、理解しやすいための表示と考えた方がいいかもしれません。

« 閑話休題 その1 | Main | 圧力の単位について »

Comments

「1/2桁」の話し、記事の説明とちょっと違うんですよ。
以下↓にまとめておきました。
http://blog.zaq.ne.jp/igarage/article/2235/

コメントありがとうです

Post a comment

Comments are moderated, and will not appear on this weblog until the author has approved them.

(Not displayed with comment.)

TrackBack


Listed below are links to weblogs that reference 4-1/2桁って何ですか?:

« 閑話休題 その1 | Main | 圧力の単位について »

May 2021
Sun Mon Tue Wed Thu Fri Sat
            1
2 3 4 5 6 7 8
9 10 11 12 13 14 15
16 17 18 19 20 21 22
23 24 25 26 27 28 29
30 31          

Recent Trackbacks

Categories

  • つぶやき
  • コラム
  • スポーツ
  • トピック
  • ニュース
  • パソコン・インターネット
  • 日記・コラム・つぶやき
  • 書籍・雑誌
無料ブログはココログ