月: 2016年11月

「やさしい応用情報処理技術者講座」にややこしいのが、解りやすくまとめてあったのを写経。 丸め誤差 数値を有効桁数にする際の誤差。例えばはとして表現できるがはとなり循環するためこのまま表現することができない。つまり、正確に… もっと読む »