Main Content

고정소수점 개념

양자화 및 고정소수점 연산방식

고정소수점 숫자의 동적 범위는 이에 상응하는 워드 크기를 갖는 부동소수점 숫자보다 훨씬 더 작습니다. 고정소수점 데이터형을 사용할 경우 양자화가 정밀도와 범위, 스케일링에 미치는 영향에 대해 신중히 고려해야 합니다. 고정소수점 데이터형은 워드 길이(비트 수), 이진 소수점의 위치, 부호의 유무로 특징지을 수 있습니다. 이진 소수점의 위치를 사용하여 고정소수점 값을 스케일링하고 해석할 수 있습니다.

카테고리

  • 양자화
    고정소수점 데이터형의 정밀도, 범위 및 스케일링
  • 고정소수점 연산방식
    소프트웨어의 고정소수점 산술 연산 및 데이터형과 스케일링의 영향