Pues que yo sepa no se puede. Aunque hay un truco.
Crea unos gif (imagenes con fondo transparente) con la parte redondeada y pones cada uno en una esquina de la tabla. Logicamente los gif tienen que tener cada uno su postura y tener el mismo color del fondo de la pagina.
En línea con con lo que comenta RBF, complemento con lo siguiente:
El efecto se puede lograr recurriendo a algun truco, uno de ellos es utilizar una tabla dentro de un DIV
Para quien quiera realizarlo con CSS, aquí hay un asistente:
http://www.neuroticweb.com/recursos/css-rounded-box/
Al respecto: la propuesta en CSS3 viene de mano de Mozilla (-moz-border-radius: 4px, por ejemplo); y si bien IE no lo lee, hay un link interesante al respecto que remedia la situación:
http://www.warstar.nl/blog/border-radius.html
Aquí hay otro ejemplo en con CSS y JavaScript, trabajando en conjunto::
http://pro.html.it/esempio/nifty/
Para tablas con imágenes en los bordes:
http://eyd142009pc13.tripod.com/bordes_redondeados.htm
La siguiente dirección tiene una excelente variedad de imágenes para descargar, lo cual evita que nos pongamos a diseñar las esquinas (las imágenes están en formato PSD):
http://www.nutrocker.co.uk/corners.html
Y, finalmente, para quienes apunten al cero esfuerzo, pueden bajar gratis el EZRound, para tablas y forms, un trial por 14 días
http://www.ezround.com/html/download.html
