2015-03-03から1日間の記事一覧
Androidで電卓アプリを作っていて、 double a = 1.1; double b = 2.2; System.out.println(a + b); を計算すると、3.3になると思いきや、 3.3000000000000003 になって、予想外の結果となった。 doubleの小数点の精度の問題でこうなってしまうようだ。確かに…
Androidで電卓アプリを作っていて、 double a = 1.1; double b = 2.2; System.out.println(a + b); を計算すると、3.3になると思いきや、 3.3000000000000003 になって、予想外の結果となった。 doubleの小数点の精度の問題でこうなってしまうようだ。確かに…