浮動小数点表記とは | 基本情報技術者試験無料ビデオ

浮動小数点表記とは基本情報技術者試験

更新日：2020年9月3日

数値の扱い

この講習では、浮動小数点についてみていきます。

これまでの見てきたように固定小数点では、８ビットや１６ビットのように決まった桁数で扱われれるため、表現できる数の個数や、最大値や最小値は決まってしまいます。

では、固定小数点で表現できる数の最大値を超える数や、小数の極めて小さい数などを扱うにはどのようにするのでしょうか？

そこで、浮動小数点が使われます。

浮動小数点とは、指数表記に合わせて数を表示する方式です。

では、指数表記から見ていきましょう。

例えば、テキストにあるように7000000（七百万）は、０．７×１０の７乗と変換し、

また、０．００００２は、０．２×１０の－４乗と変換することが出来ます。

これを指数表記といいます。

続きはこちら ↓↓↓

基本情報技術者試験対策 Cloud Notes コンテンツ利用について

おすすめ記事

1: 基本情報技術者試験対策テキスト

基本情報技術者試験対策　テキスト　クラウドノーツ® 基本情報技術者試験対策　YouTubeを始めたけれど、スマホで見ていたら画面が小さくて見ずらいといったお悩みの方はいらっしゃいませんか？そんな方に ...

2: システムの稼働率 MTBF 平均故障間隔　基本情報技術者試験対策

システムシステムの稼働率システムの稼働率を計算するにあたって、つぎのような必要な項目があります。まず、MTBF 平均故障間隔とは、システムや機器が稼働を開始してから次に故障するまでの平均稼働時間 ...

3: 半加算器全加算器基本情報技術者試験対策

論理回路半加算器全加算器この講習では、半加算器と全加算器について見ていきましょう。半加算器回路は、２進数の足し算を行う際に使用される回路です。入力側AとBから２つの信号を入力し、その入力信号 ...

4: セキュリティディジタル証明書過去問題2 基本情報技術者試験

セキュリティセキュリティディジタル証明書過去問題解説この問題は「ディジタル証明書」で、検証できることは、「送信者が正しいこと」と「改ざんの有無」となります。「送信者が正しい」というのは、受 ...