BUG in dec2hex
조회 수: 2 (최근 30일)
이전 댓글 표시
댓글 수: 1
Stephen23
2023년 9월 4일
편집: Stephen23
2023년 9월 4일
You do not explain what the problem is.
Note that your last example uses DOUBLE class and not UINT64, which clearly has a different bit pattern:
u = bitxor(uint64(0xFF000000),0xFFFFFFFFFFFFFFFF)
dec2hex(u)
d = double(u) % The same value you entered by hand
dec2hex(d)
답변 (0개)
참고 항목
카테고리
Help Center 및 File Exchange에서 Numbers and Precision에 대해 자세히 알아보기
Community Treasure Hunt
Find the treasures in MATLAB Central and discover how the community can help you!
Start Hunting!