p = polyfit(x,y,n)
にあたえる x, y はそれぞれ、x軸と そのx軸に対応するy軸の値をベクトルで与えます。例えば、以下のような形で近似となる 2次式を求めることができますがいかがでしょうか?
X = [x1,x2,x3,x4,x5]
Y = [y1,y2,y3,y4,y5];
p = polyfit(X,Y,2);
xv = linspace(X(1), X(end), 100);
yv = polyval(p, xv);
plot(X,Y,'o', xv, yv,'-')