Why 0.6+0.3+0.1-1 is -1.11022302462516e-16, not 0 ? why?? A serials bug??

조회 수: 8(최근 30일)
denny
denny 2018년 6월 20일
댓글: denny 2019년 9월 9일
0.6+0.3+0.1-1
  댓글 수: 1
denny
denny 2019년 9월 9일
This is not a bug, this is bucase the numeric calculation in a computer.
You can use a fraction to calculate it.

댓글을 달려면 로그인하십시오.

답변(0개)

태그

Community Treasure Hunt

Find the treasures in MATLAB Central and discover how the community can help you!

Start Hunting!