2桁の2進数を表す整数をとする。2進数が表す整数をの式で表したものはどれか。ここで、int(r)は非負の実数rの小数点以下を切り捨てた整数を表す。 ア イ ウ &… もっと読む »
カテゴリー: 情報処理
誤差について学ぼう
「やさしい応用情報処理技術者講座」にややこしいのが、解りやすくまとめてあったのを写経。 丸め誤差 数値を有効桁数にする際の誤差。例えばはとして表現できるがはとなり循環するためこのまま表現することができない。つまり、正確に… もっと読む »
2の補数
2の補数を使って加算演算する場合、 計算結果もまた2の補数として表現される 最上位のビットが桁上がりする場合はそれを無視する 計算結果が表現可能な範囲に収まらない場合もある(オーバーフロー) 2の補数表現について、ビット… もっと読む »
浮動小数形式
単精度(32Bit)の場合 符号(1bit) + 指数部(8bit) + 仮数部(23bit) で表現する。 符号(s) 正の値なら、負の値ならとしてを取る 指数部(e) 実際の値にバイアス値127を加算した値。8Bit… もっと読む »
高信頼性システムの考え方2
システムの信頼性評価の基準として、信頼性(Reliability)・可用性(Availability)・保守性(Serviceabilityy)・完全性(Integrity)・機密性(Security)。これらの頭文字を… もっと読む »
高信頼性システムの考え方
フェールソフト 障害が発生した場合は故障部分を切り離すなど、機能を低下させてでも最低限の処理は継続しようとする考え方。故障部分を切り離して継続的に稼働させることを、縮退運転(フォールバック)と呼ぶ フェールセーフ 障害に… もっと読む »