MATLAB R2016a 以降では、MATLAB の movstd 関数を使用して移動二乗平均平方根を求めることが可能です。
>> A = [4 8 6 -1 -2 -3 -1 3 4 5];
>> M = movstd(A,3,1)
M =
2.0000 1.6330 3.8586 3.5590 0.8165 0.8165 2.4944 2.1602 0.8165 0.5000
R2015b 以前のバージョンの場合は、以下の内容をご検討ください。
Signal Processing Toolbox には、rms 関数がありますが、こちらでは、2乗平均平方根を求めます。
移動二乗平均平方根を求める場合、for ループ内にて適宜区分的に rms 関数を実行してください。