2の補数を使って加算演算する場合、 計算結果もまた2の補数として表現される 最上位のビットが桁上がりする場合はそれを無視する 計算結果が表現可能な範囲に収まらない場合もある（オーバーフロー） ２の補数表現について、ビット… もっと読む »
2の補数を使って加算演算する場合、 計算結果もまた2の補数として表現される 最上位のビットが桁上がりする場合はそれを無視する 計算結果が表現可能な範囲に収まらない場合もある（オーバーフロー） ２の補数表現について、ビット… もっと読む »
単精度（32Bit）の場合 符号(1bit) + 指数部(8bit) + 仮数部(23bit) で表現する。 符号(s) 正の値なら、負の値ならとしてを取る 指数部(e) 実際の値にバイアス値127を加算した値。8Bit… もっと読む »
指数が有理数とはどういう意味か？これまでとりあえず「覚える」ってことでやりすごしてきたけ吉田武の「虚数の情緒」に解説。まず指数法則のおさらい、 ここで、は整数であり、 である。このときであるが、として考え上記指数法則を適… もっと読む »
