Yo en mi vida he renderizado a Blu-Ray, ¿ te lo puedes creer? Pero he estado mirando y veo que seguramente has olvidado modificar la plantilla por defecto. Dejando la plantilla tal cual (mpeg2), desactiva la opción para separar flujos y cambia de "Transporte" a "Programa" para que te ponga la extensión .mpg a los videos:

Y si todo va bien, ya podrías renderizar el archivo multiplexado:

X.

Y si todo va bien, ya podrías renderizar el archivo multiplexado:

X.