Tenés que crear un proyecto como ActiveX DLL y trabajar con clases, en la MSDN tenés ejemplos y está desarrollado el tema. Con VB no podes crear DLL regulares.
solo agrgar que mas abajo respondi algo similar, y decirle Dark_MAC que si no quiere hacer una activex dll existe un plug in para visual basic creo llamadao "tweak vb" que te permite crear dll que no sean activex dll.