ページの作成:「== 概要 == 浮動小数点数とは、実数の表現方法の1つであり、2進数の有限桁数で表された数値である。(対義語は、固定小数点数)…」 |
|||
| 112行目: | 112行目: | ||
浮動小数点数の加減算は、指数部を大きい方に揃えてから仮数部同士の計算をするため、値の差が大きいと小さい値は指数を大きくするために仮数部が0になるからである。<br> | 浮動小数点数の加減算は、指数部を大きい方に揃えてから仮数部同士の計算をするため、値の差が大きいと小さい値は指数を大きくするために仮数部が0になるからである。<br> | ||
<br> | <br> | ||
例 | |||
以下のような大きな値と小さい値があるとする。<br> | |||
A＝1100000000000<br> | |||
B＝0.11<br> | |||
<br> | |||
両方の値を有効桁数10桁の浮動小数点数に変換する。<br> | |||
a = 1.100000000×10<sup>12</sup><br> | |||
b = 1.100000000×10<sup>-1</sup><br> | |||
<br> | |||
この時、bの指数をaに合わせると仮数部が0となり情報が落ちる。<br> | |||
b = 0.000000000×10<sup>12</sup><br> | |||
<br> | |||
==== 打ち切り誤差 ==== | ==== 打ち切り誤差 ==== | ||
無限小数等の値に対して、ある程度の時点で処理を打ち切ることで発生する誤差のことである。<br> | 無限小数等の値に対して、ある程度の時点で処理を打ち切ることで発生する誤差のことである。<br> | ||