Visual Basic - MOSTRAR FECHA ANTERIOR

Saludos compañeros del foro...

Tengo una duda, yo debo de mostrar en una ventana (la cual es la primera que se carga) la fecha, pero debe ser la fecha del dia anterior porque es para una empresa de cuestiones de Correo y ahí trabajan con la fecha del día anterior.

Poner TxtFecha.Text = Date en el FormLoad de esa ventana no me sirve por ser fecha actual.
Y poner:
TxtFecha.Text = Day(Now - 1) & "-" & Month(Now) & "-" & Year(Now)
Tampoco me sirve, aunque a simple vista parece servir, pero no, porque eso solo pasa al numero anterior el dia, pero no el Mes, ni el Año en caso de ser 31 de diciembre.
Si tengo por ejemplo 1/10/2004 y uso el codigo largo ya indicado, lo que saldra sería: 31/10/2004 cuando en realidad deberia mostrar 31/09/2004

Sé que en esto deberia usar más controles como de calendario, pero no los sé usar, no tengo la ayuda del visual. Cómo podría arreglar esto de la fecha.

Muchas gracias amig@

Te complicaste más de lo necesario:

Dim dt As Date
dt = CDate(InputBox("Fecha", , Date)) - 1
MsgBox dt

Saludos Ruri

Caramba, muchas gracias amigo Ruri, en verdad que si me había complicado más con lo anterior.

Gracias hermano