Dale como salida cualquier contenedor, mientras esté codificado en H264/AVC, este puede mantener la misma calidad que el mpeg-2 pero en menos espacio, es decir que requiere de menor bitrate para igualar en calidad un mpeg-2 (que para igualarla necesita el doble de bitrate)
Saludos
Saludos