Matlab floating point problem

Hello. I am using Matlab R2007b. I have a floating point problem in it. I am using x=rotx(45*pi/180)*[1 2 3]' and its value is x =[1.0000; 3.5355; 0.7071]. And i am doing reverse rotation of x which is y=rotx(-45*pi/180)*x. And i am doing y==[1; 2; 3]. Logically it is showing 1 1 0. I want all 1's when y==[1; 2; 3]. Can any one help with this problem.

답변 (1개)

per isakson
per isakson 2018년 12월 10일
편집: per isakson 2018년 12월 10일

0 개 추천

The script
%%
x = rotx(45*pi/180)*[1 2 3]';
y = rotx(-45*pi/180)*x;
is1 = abs((y-[1;2;3])<eps(10))
returns
is1 =
1
1
1
with R2018b

카테고리

도움말 센터File Exchange에서 Data Types에 대해 자세히 알아보기

질문:

KK
2018년 12월 10일

편집:

2018년 12월 10일

Community Treasure Hunt

Find the treasures in MATLAB Central and discover how the community can help you!

Start Hunting!

Translated by