つらぬくような軽いいたみ

毎日は書くことができない日記

倍精度浮動小数点の限界

 Excelで今日も資料を作成しますよ。作られた資料をチェックしますよ。そうしたら同僚が作成した資料に微妙なずれ。四捨五入されるはずの0.5が繰り上がらない。原因を追究し解明。小数点以下12桁くらいに誤りがあって、0.49999999…とかになってます。
 ねえ。私くらいの年の女の子って、浮動小数点って知っていないといけないものなの、と聞く同僚。さあ、と答える同じ年の僕。