いものやま。

雑多な知識の寄せ集め

2022-06-01から1ヶ月間の記事一覧

Pythonの四捨五入で四苦八苦した話。(まとめ)

これまでの各記事は、以下から。 Pythonの四捨五入で四苦八苦した話。(その1) - いものやま。 ビルトインのround()の問題点 普通の四捨五入の実装 Pythonの四捨五入で四苦八苦した話。(その2) - いものやま。 普通の四捨五入の実装の問題点 PyPIにあるパ…

Pythonの四捨五入で四苦八苦した話。(その3)

前回のあらすじ:Rubyの四捨五入すごい。PyPIにあったパッケージどれもダメ。 Rubyでの四捨五入のアルゴリズム さて、そんなわけで、Pythonがどうしようもなかったので、なぜか誤差なく四捨五入できてたRubyでの実装を調べてみた。 Rubyでの四捨五入は、nume…

Pythonの四捨五入で四苦八苦した話。(その2)

前回のあらすじ: Pythonのビルトインのround()は普通の四捨五入とは違う偶数丸めというものだったので、floor()を使って普通の四捨五入を実装したよ。 誤差との戦い と、まぁ普通はここまでなんだけど、いろいろ試すと「あれ?」ってなるケースが出てくる。…

Pythonの四捨五入で四苦八苦した話。(その1)

Pythonの四捨五入は、実は普通の四捨五入になってない。 なので、普通の四捨五入をするにはちょっとコードを書く必要があったりする。 ただ、その過程でかなり苦労があったので、同じような苦労をする人がいないようにパッケージにまとめてPyPIに上げておい…