John R. Taylor「計測における誤差解析入門」の読書メモ
2.26
(a)
(b)
(c)
(d) 有効数字が3桁の場合,P34表2.4より相対誤差は0.1%と1%の間である.(a)-(c)はすべてこの間にある.
2.27
(c) 誤差表記の例外則を使えば,.
2.28
(a) cm sなので, cm s cms になる.
(b) N m N m
2.30
(a) 有効数字2桁の数値と,有効数字5桁の数値をかけると,有効数字5桁の数値の相対誤差はほとんど無視できるので,積の相対誤差は有効数字2桁の数値の相対誤差と等しくなる.つまり積も有効数字2桁にすればよい.
(b) 有効数字2桁の25と,有効数字5桁の36666をかけると, になる.一方で,有効数字2桁の920000の誤差は10000なので,相対誤差は1%になる.