정밀도

정밀도에 대한 제한 사항, 반올림과 채우기의 영향

컴퓨터 워드는 유한한 개수의 비트로 구성됩니다. 이는 변수에 대한 이진 인코딩이 임의 정밀도의 실제 값을 근사한 것에 불과하다는 뜻입니다. 이처럼 이진 표현에 제약이 있기 때문에 자동적으로 값 정밀도에도 제약이 있습니다.

도움말 항목

Range and Precision
Range and precision of fixed-point data types.
Maximize Precision
To maximize precision, make the slope as small as possible while keeping the range adequately large.
반올림

반올림을 수행하면 고정밀도에서 더 낮은 정밀도로 떨어지기 때문에 양자화 오차와 계산 잡음이 발생합니다.
- 반올림 모드: 올림(Ceiling)
- 반올림 모드: 수렴(Convergent)
- 반올림 모드: 내림(Floor)
- 반올림 모드: 최근접(Nearest)
- 반올림 모드: 반올림(Round)
- Rounding Mode: Simplest
- 반올림 모드: 0 방향(Zero)
Net Slope and Net Bias Precision
Net slope and bias precision, detecting precision loss, underflow, and overflow.
Detect Fixed-Point Constant Precision Loss
This example shows how to detect fixed-point constant precision loss.
Use Scaled Doubles to Avoid Precision Loss
How to avoid precision loss by overriding the data types in your model with scaled doubles.