Buenas, no creo que me haya explicadon bien asi que les demuestro con esta imagen:
http://img269.imageshack.us/img269/4214/ayudaq.png
Lo que quiero es poner un video en el box que se ve mas claro, ya que al pasarlos se ponen en pantalla completa.

Pues solo tienes que hacer un zoom out y despues agregar el borde, el zoom lo puedes hacer con Pan/Crop o Track Motion.

Saludos.

No se si es lo mismo que haz dicho, pero encontre este video que me dejo claro como haccerlo. Aunque es para poner 3 camaras puedes entender como cambiar el tamaño:
http://vangallardo.jimdo.com/sony-vegas/sony-videos-tutoriales/video-2/