well, a silly question
why 0.07*400 is not equal to 28?
see screenshot;

답변 (1개)

Image Analyst
Image Analyst 2020년 11월 28일

0 개 추천

Truncation error due to double's only using 64 bits instead of an infinite number of bits. It will be off a very small amount, eps(28). See the FAQ for a thorough discussion:

카테고리

도움말 센터File Exchange에서 MATLAB에 대해 자세히 알아보기

제품

릴리스

R2020a

질문:

2020년 11월 28일

답변:

2020년 11월 28일

Community Treasure Hunt

Find the treasures in MATLAB Central and discover how the community can help you!

Start Hunting!

Translated by