数値の扱い
浮動小数点表記
では、実際にコンピューターではどのように扱われているのでしょうか?
テキストの例のようにコンピューターでは、2進数がベースとなっているので、基数は2となります。
桁数は2進数で32桁や64桁、すなわち32ビットや64ビットが使われます。
先頭ビットは、符号ビットとなります。
符号ビットが0ならば正の数、1ならば負の数となります。
次に2のe乗の部分のeの指数の値が指数部に代入されます。
次に、mの仮数部はテキストの様に仮数の小数点の位置が仮数部の先頭に来るので、仮数部には小数点以下の数が左詰めで代入されます。
続きはこちら ↓↓↓
基本情報技術者試験 ビデオ講座 Youtube
"コンテンツの利用について
こちらをお読みください
https://spica.co.jp/it-school/cloud-notes-it/it-cloud-notes/#riyou"
基本情報技術者 解説
浮動小数点表記
更新日:
数値の扱い
浮動小数点表記
では、実際にコンピューターではどのように扱われているのでしょうか?
テキストの例のようにコンピューターでは、2進数がベースとなっているので、基数は2となります。
桁数は2進数で32桁や64桁、すなわち32ビットや64ビットが使われます。
先頭ビットは、符号ビットとなります。
符号ビットが0ならば正の数、1ならば負の数となります。
次に2のe乗の部分のeの指数の値が指数部に代入されます。
次に、mの仮数部はテキストの様に仮数の小数点の位置が仮数部の先頭に来るので、仮数部には小数点以下の数が左詰めで代入されます。
続きはこちら ↓↓↓
基本情報技術者試験 ビデオ講座 Youtube
"コンテンツの利用について
こちらをお読みください
https://spica.co.jp/it-school/cloud-notes-it/it-cloud-notes/#riyou"
おすすめ記事
基本情報技術者試験対策テキスト
基本情報技術者試験対策 テキスト クラウドノーツ® 基本情報技術者試験対策 YouTubeを始めたけれど、スマホで見ていたら画面が小さくて見ずらいといったお悩みの方はいらっしゃいませんか? そんな方に ...
システムの稼働率 MTBF 平均故障間隔 基本情報技術者試験対策
システム システムの稼働率 システムの稼働率を計算するにあたって、つぎのような必要な項目があります。 まず、MTBF 平均故障間隔とは、システムや機器が稼働を開始してから次に故障するまでの平均稼働時間 ...
半加算器 全加算器 基本情報技術者試験対策
論理回路 半加算器 全加算器 この講習では、半加算器と全加算器について見ていきましょう。 半加算器回路は、2進数の足し算を行う際に使用される回路です。 入力側AとBから2つの信号を入力し、その入力信号 ...
セキュリティ ディジタル証明書 過去問題2 基本情報技術者試験
セキュリティ セキュリティ ディジタル証明書 過去問題 解説 この問題は「ディジタル証明書」で、検証できることは、「送信者が正しいこと」と「改ざんの有無」となります。 「送信者が正しい」というのは、受 ...
-基本情報技術者 解説
-基本情報技術者試験, 数値の扱い, 浮動小数点表記