Pregunta complicada de responder y con muchas caras de la moneda. Intentaré responder lo mas sencillo posible, arriesgándome a que algo que te diga no se ajuste exactamente al problema que estas planteando... Ahí va.
Si vas a pasar tu renderizado a un DVD estándar para el visionado en un reproductor de DVDs normal, entonces da igual el renderizado que hagas ahora porque al pasar a DVD se recomprimirá MPEG2. Lo único importante es que la fuente (tu renderizado) sea de mas calidad que la que da el MPEG2 estándar de los DVDs de video.
Sobre el renderizado:
WMV y MP4 no son formatos, son contenedores de video. Así que lo importante, en el caso que quieras distribuir el renderizado final es que utilices un contenedor lo mas estandar posible (de los que mencionas, yo cogería mp4). Si sólo vas a distribuir el DVD de video (como una pelicula normal) entonces mientras el formato que escojas lo lea el programa que utilices para grabar los DVDs (y recomprimir) será suficiente.
En cuanto al codigo de video, yo cogería H264. Como te comenta nando, cuanto mas ocupe, mas calidad.
No cojas marca blanca para el DVD.