¿El vídeo original es DV, VHS, DivX? Depende de la calidad original tendrás una calidad final. Por otro lado, con un bitrate entre 6000 y 9000 resulta difícil que haya pixelación apreciable a no ser que existan movimientos MUY rápidos de cámara por ejemplo.

dices que comprimes con el LE, que programa es? liquid edition?
intenta comprimir el avi con otros programas; tmpeng, procoder, cinema craft encoder.
Lo de los picos bajos de audio* es "comprensible", desde un determinado punto de vista, un encoder para mpeg1 mpeg2 generalmente "funcionará" o dará mejor rendimiento al video que al audio. Sip, soy quisquilloso y aunque funcionen muy bien para ambos casos, prefiero trabajar con programas especificos para cada cometido; uno para el video y otro (besweet p. ej.) para el audio.

*De todas formas, una caida bestial del audio no es normal.