数値解析日記

数値解析関係のネタ帳。C++,pythonなど

2015-12-21から1日間の記事一覧

メモ:as_interger_ratio()では正確に元の分数には戻せない

as_interger_ratio()では正確に元の分数には戻せない a = 0.1 を区間型に代入する際にうまく包含できないので、色々実験してみた。 何が問題なのか? import pint as pn x=pn.interval(0.1) と、2進数小数で表現不可能な数字なので下限と上限は format(x.inf,…

メモ:twosumアルゴリズムの研究

twosumアルゴリズムの研究 from pint import roundfloat as rf from pint import roundmode as rdm a=0.1 b=0.2 誤差が発生するパターン rf.rdadd(a, b, rdm.nearest) 0.30000000000000004 最近点丸め rf.rdadd(a, b, rdm.up) 0.30000000000000004 上方向丸…