2005-08-18 倍精度浮動小数点の限界 Excelで今日も資料を作成しますよ。作られた資料をチェックしますよ。そうしたら同僚が作成した資料に微妙なずれ。四捨五入されるはずの0.5が繰り上がらない。原因を追究し解明。小数点以下12桁くらいに誤りがあって、0.49999999…とかになってます。 ねえ。私くらいの年の女の子って、浮動小数点って知っていないといけないものなの、と聞く同僚。さあ、と答える同じ年の僕。