Matlab floating point problem

조회 수: 3 (최근 30일)
KK
KK 2018년 12월 10일
편집: per isakson 2018년 12월 10일
Hello. I am using Matlab R2007b. I have a floating point problem in it. I am using x=rotx(45*pi/180)*[1 2 3]' and its value is x =[1.0000; 3.5355; 0.7071]. And i am doing reverse rotation of x which is y=rotx(-45*pi/180)*x. And i am doing y==[1; 2; 3]. Logically it is showing 1 1 0. I want all 1's when y==[1; 2; 3]. Can any one help with this problem.

답변 (1개)

per isakson
per isakson 2018년 12월 10일
편집: per isakson 2018년 12월 10일
The script
%%
x = rotx(45*pi/180)*[1 2 3]';
y = rotx(-45*pi/180)*x;
is1 = abs((y-[1;2;3])<eps(10))
returns
is1 =
1
1
1
with R2018b

카테고리

Help CenterFile Exchange에서 Logical에 대해 자세히 알아보기

Community Treasure Hunt

Find the treasures in MATLAB Central and discover how the community can help you!

Start Hunting!

Translated by