primary school question!

조회 수: 10 (최근 30일)
Wenjuan
Wenjuan 2020년 11월 28일
답변: Image Analyst 2020년 11월 28일
well, a silly question
why 0.07*400 is not equal to 28?
see screenshot;

이 질문에 답변하려면 로그인하십시오.

답변 (1개)

Image Analyst
Image Analyst 2020년 11월 28일
Truncation error due to double's only using 64 bits instead of an infinite number of bits. It will be off a very small amount, eps(28). See the FAQ for a thorough discussion:
https://matlab.fandom.com/wiki/FAQ#Why_is_0.3_-_0.2_-_0.1_.28or_similar.29_not_equal_to_zero.3F

카테고리

Help Center 및 File Exchange에서 MATLAB에 대해 자세히 알아보기

태그

제품


릴리스

R2020a

Community Treasure Hunt

Find the treasures in MATLAB Central and discover how the community can help you!

Start Hunting!

Translated by