round-off issue?
조회 수: 1 (최근 30일)
이전 댓글 표시
I can't figure out why the floor wont come to 1752?
>> 3.501/40*20*10^3+1.5
ans =
1.752000000000000e+003
>> floor(ans)
ans =
1751
댓글 수: 0
채택된 답변
Fangjun Jiang
2011년 9월 20일
Rounding error caused by floating point calculation.
>> 3.501/40*20*10
ans =
17.504999999999995
댓글 수: 2
Jan
2011년 9월 20일
sprintf('%.13f', 3.501/40*20*10^3+1.5)
>> 1751.9999999999998
sprintf('%.12f', 3.501/40*20*10^3+1.5)
>> 1752.000000000000
추가 답변 (0개)
참고 항목
카테고리
Help Center 및 File Exchange에서 Logical에 대해 자세히 알아보기
Community Treasure Hunt
Find the treasures in MATLAB Central and discover how the community can help you!
Start Hunting!