2016-02-22から1日間の記事一覧

円周率に、有効数字という概念が当てはまらない。

togetter.com さて。 タイトルで書きましたが、科学計算において、円周率をどうするかというのは、「まあ好きにせよ」とは思うのですが、「測定値の有効桁数で丸める」という意味は全くないのでご注意下さい。 また、円周率の3.14は便宜上そこまでの数値で計…