Para la salida aparte del MPEG-2, también puedes probar Main Concept AVC, o Sony AVC. Yo no utilizo el formato que tu utilizas y no puedo asesorarte a ciencia cierta, pero la pauta "prueba, error" seguro te dará buenos resultados. Renderiza pequeños fragmentos de tu edición con la opción región de bucle, con las distintas opciones hasta que observes los resultados que más te satisfacen.
Saludos
Saludos