2010-01-13から1日間の記事一覧

0.01を100回加算しても1にならない?それともなる?

なんか古典的な二進数の丸めの誤差の話をしたら知らないやつが多数。 最近のランゲージというか、ランタイムではそーゆー事は起こらないのかね? 浮動小数点数でも仮数部のビット数が増えたから0.01ごときでは誤差が顕在化しないのかな。明日テストしてみよ…