Antes que nada consigue un compilador de C/C++ para Windows. Creo que Borland seria el adecuado y para hacer la llamada desde Java se usa un API que se llama JNI (Java Native Interface). Puedes chequear el Java tutorial en www.java.sun.com para informacion mas detallada.