解説

浮動小数点表記とは 基本情報技術者試験

更新日:

数値の扱い

浮動小数点

この講習では、浮動小数点についてみていきます。

これまでの見てきたように固定小数点では、8ビットや16ビットのように決まった桁数で扱われれるため、表現できる数の個数や、最大値や最小値は決まってしまいます。

では、固定小数点で表現できる数の最大値を超える数や、小数の極めて小さい数などを扱うにはどのようにするのでしょうか?

そこで、浮動小数点が使われます。

浮動小数点とは、指数表記に合わせて数を表示する方式です。

では、指数表記から見ていきましょう。

例えば、テキストにあるように7000000(七百万)は、0.7×10の7乗と変換し、

また、0.00002は、0.2×10の-4乗と変換することが出来ます。

これを指数表記といいます。

 

続きはこちら ↓↓↓

 

基本情報技術者試験 ビデオ講座 Youtube

基本情報技術者試験対策 Cloud Notes コンテンツ利用について

おすすめ記事

Eラーニング 1

基本情報技術者試験対策 テキスト クラウドノーツ® 基本情報技術者試験対策 YouTubeを始めたけれど、スマホで見ていたら画面が小さくて見ずらいといったお悩みの方はいらっしゃいませんか? そんな方に ...

Eラーニング 2

システム システムの稼働率 システムの稼働率を計算するにあたって、つぎのような必要な項目があります。 まず、MTBF 平均故障間隔とは、システムや機器が稼働を開始してから次に故障するまでの平均稼働時間 ...

Eラーニング 3

論理回路 半加算器 全加算器 この講習では、半加算器と全加算器について見ていきましょう。 半加算器回路は、2進数の足し算を行う際に使用される回路です。 入力側AとBから2つの信号を入力し、その入力信号 ...

Eラーニング 4

セキュリティ セキュリティ ディジタル証明書 過去問題 解説 この問題は「ディジタル証明書」で、検証できることは、「送信者が正しいこと」と「改ざんの有無」となります。 「送信者が正しい」というのは、受 ...

-解説
-, ,

テキストのコピーはできません。

Copyright© 基本情報技術者試験 無料ビデオ , 2021 All Rights Reserved.