doubleからsi​ngleのキャスト精​度の向上方法?

조회 수: 5 (최근 30일)
nguyen congkien
nguyen congkien 2018년 5월 29일
편집: nguyen congkien 2018년 5월 30일
添付画像みたいのキャスト処理をSimulinkモデルで実装してみましたが、 8.333333333333333(double)⇒8.3333330154419(single)になる理由は何でしょうか。 2進数⇔10進数の変換結果が約8.333333313465118になりますが、Simulink上でもこの結果ぐらいになり、浮動小数点のキャスト精度向上するために何か設定・コンフィギュレーションがありますでしょうか。(Matlab R2025Sp1)

답변 (1개)

Takafumi
Takafumi 2018년 5월 29일
浮動小数点の精度を確認するのに、epsコマンドがありまして、 single 型の精度は代替小数点7桁あたりまでです。
eps('single')
ans =
single
1.1920929e-07
  댓글 수: 1
nguyen congkien
nguyen congkien 2018년 5월 30일
편집: nguyen congkien 2018년 5월 30일
ご回答ありがとうございます。
知りたかったのが、
・どうしてその結果になるのか。
・どうやって結果の制度を上げるのか。
です。

댓글을 달려면 로그인하십시오.

카테고리

Help CenterFile Exchange에서 Simulink에 대해 자세히 알아보기

Community Treasure Hunt

Find the treasures in MATLAB Central and discover how the community can help you!

Start Hunting!