Para que funcione el canal alfa, hay que exportar como "Avi sin compresión con transparencia". Una vez cargado el archivo en Vegas (tiene que estar en la pista superior), haz clic derecho y en "Properties..." pulsa en la pestaña "Media". Abajo, en "Alpha channel" pon "Premultiplied (dirty)". Se tendría que ver sobrepuesto al video inferior.

Usa un color primario. Si el fondo no fuera negro, donde pone "Background color" pon el color del fondo; en caso contario se verá un filo del color de fondo.

Si todo esto no te funciona, y como dicen los compañeros, siempre te quedará el croma, pero en modo alfa tendrás una imagen mas limpia.

X.