2008-06-26から1日間の記事一覧

メモ

CS

誤差付き計算を扱うことになった. 色々と調べたいのだが, どうしたもんだか. xの誤差が±2^{-k}であるとき, exp(-x)の誤差はどれだけ広がるのか? また誤差を±2^{-k/2}に収めるアルゴリズムがあるとしてその計算時間はいかほどか? 精度保証付き数値計算で調べ…