Matlab - Determinar Plano Optimo

Estoy tratando de hacer que dado como minimo 3 vectores (puntos) en el espacio determine el PLANO mas optimo respecto a la ubicacion de estos puntos, esto lo estoy usando en una app. en opengl. es posible usar el matlab para realizar esto..?
O quiza alguna una idea de como empezar, o alguna otra libreria
Muchas gracias.