Matlab - filtrar datos en Matlab

Hola tengo dos vectores resultado de una medicion (X e Y) al graficarlo veo que hay ruido en algunos puntos. Quiero eliminar estos valores. Pense en aplicar un filtro en Matlab y busque la funcion filter en la ayuda pero de nada me sirvió. Si alguien puede explicarme por favor como usarla sobre todo la parte de los vectores de coeficientes a y b.

Gracias de antemano