Simulinkでの single型の扱いについて

조회 수: 23 (최근 30일)
katsunori shigematsu
katsunori shigematsu 2021년 11월 23일
이동: Atsushi Ueno 2022년 8월 17일
Simulinkで、定数 0.01の出力型をSingleとし、Gainブロックで1000倍すると、出力が10 となります。
Single型での0.01の実際の値は、0.009999... で、1000倍した時に誤差がなくなってしまうのはなぜでしょうか
  댓글 수: 5
Atsushi Ueno
Atsushi Ueno 2021년 11월 25일
이동: Atsushi Ueno 2022년 8월 17일
余談ですが:
浮動小数点数演算は、規格(IEEE754など)、処理系、CPUや他ハードウェアの違いに依存します。全く同じソフトウェアで演算をしても、処理系やハードウェアが異なると演算誤差が異なる場合があります。

댓글을 달려면 로그인하십시오.

답변 (0개)

카테고리

Help CenterFile Exchange에서 Discontinuities에 대해 자세히 알아보기

태그

제품


릴리스

R2016b

Community Treasure Hunt

Find the treasures in MATLAB Central and discover how the community can help you!

Start Hunting!