2022-06-01から1ヶ月間の記事一覧
これまでの各記事は、以下から。 Pythonの四捨五入で四苦八苦した話。(その1) - いものやま。 ビルトインのround()の問題点 普通の四捨五入の実装 Pythonの四捨五入で四苦八苦した話。(その2) - いものやま。 普通の四捨五入の実装の問題点 PyPIにあるパ…
前回のあらすじ:Rubyの四捨五入すごい。PyPIにあったパッケージどれもダメ。 Rubyでの四捨五入のアルゴリズム さて、そんなわけで、Pythonがどうしようもなかったので、なぜか誤差なく四捨五入できてたRubyでの実装を調べてみた。 Rubyでの四捨五入は、nume…
前回のあらすじ: Pythonのビルトインのround()は普通の四捨五入とは違う偶数丸めというものだったので、floor()を使って普通の四捨五入を実装したよ。 誤差との戦い と、まぁ普通はここまでなんだけど、いろいろ試すと「あれ?」ってなるケースが出てくる。…
Pythonの四捨五入は、実は普通の四捨五入になってない。 なので、普通の四捨五入をするにはちょっとコードを書く必要があったりする。 ただ、その過程でかなり苦労があったので、同じような苦労をする人がいないようにパッケージにまとめてPyPIに上げておい…