Hola amigos!
Por mucho que he buscado en el foro, no encuentro la solución a algo que aparentemente es sencillo: la realización de máscaras.
El efecto que quiero hacer es una chorradilla, pero no sé como meterle mano:
En video1, meto un video. En Video2, meto un segundo video escalado (mas chico en dimensiones), de manera que sale sobreimpreso en el Video1. Pues bien, a este Video2 le quiero quitar la forma rectangular que tiene, y que los bordes salgan difuminados con el fondo. Sé que poniendo una máscara en Video3 se puede solucionar el tema.
Ayudadme, por favor!
Gracias!

Haz una mascara con photoshop y recorta los bordes a tu gusto
Opcion 2
 con un rotulador gordo, rellena una hoja de papel y escaneala

luego le haces un efecto croma al negro y ya queda transparente el negro

premier pro
tiene un filtro muy indicado para lo que tu quiertes vete a:
PROJEC/ effects/TRANSFORM/Edge featther,
lo aplicas en el video 2 que has escalado
hasta pronto!,
 PD:para lo del rectangulo,pudedes usar corner pin

Lo que quiero es algo parecido a la imagen que adjunto, pero no consigo con la opcion de edge feather redondear las esquinas:

habias dicho defumininar no redondear
tendras que recurrir a la mascara track matte key
Esta incrustacion ultiliza tres pistas de video.
Permite mostrar un elemento a traves de otro ultilizando un tercer elemento como mate ceando zonas trasparentes en el elemento intermedio
tendra que crear un elipse desde la tituladora guardadar y arrastrarlo al video 3 aplicarle el track matte key, y mostrar el video 1
hasta pronto

Como muy bien te ha dicho videoRoca la mejor opcion es el track matte key . Lo puedes hacer de dos formas: a traves de la tituladora como te han dicho, o haciendo una mascara en photoshop (por luma o por alfa, da lo mismo). Pones la pista de fondo en Video 1, la pista que vaya delante, en el video 2, y por ultimo la mascara en video 3. Le aplicas el efecto al video 2, y le dices en qué pista esta la mascara (en este caso, video 3), y en que modo (alfa o luma). Por ultimo, desactiva la pista de video 3 (el ojito de la derecha), y ya tienes creada tu mascara. Si deseas la mascara animada, debes hacerlo anidando secuencias, o sea, pones el mate en una secuencia y la animas con keyframes, y por ultimo utilizas esa secuencia para meterla en una nueva secuencia con la compo final. Espero no haberte liao. Taluego. Falele.

Mira este tutorial, puede darte algunas ideas...

http://www.wrigleyvideo.com/videotutori ... ipedge.htm

muy bueno el tuto,aqui queda todo biem claro

Estos tutoriales de Wrigley son muy completos y ademas puedes ver distintas versiones de Premiere.

Gracias a todos vuestros consejos, he conseguido hacer el efecto que buscaba.
Un saludo!