SQL - Utilizacion de Consultas

Hola, estoy haciendo un programa donde cada vez que inserte una letra, se me muestre los valores que empiecen por esa letra en dicha consulta, y cuando inserte la segunda, los valores que empiecen con las dos letras, etc... Lo que yo quiero saber es si existe alguna manera de utilzar la consulta anteriormente usada, para no realizar la consulta de toda la tabla entera, puesto que si tengo muchos elementos en mi tabla, se me va a demorar demasiado. Muchas gracias.