me gustaria saber que programa o utilidad uso para colocar cajas de dialogo estilo caricatura en un video casero, uso studio 9 plus 9.4.3

Pues será cuestión de currarselo con el PiP y el Chroma.

haz la caja de los dialogos con un un editor de imagenes como photoshop, haz la caja con fondo transparente.. usa una plantilla pal o ntsc, segun sea tu caso.
cuando la tengas lista, asegurate de guardarla como imagen .TGA que es el unico formato de imagen que pinnacle 9.x soporta (no estoy hablando del 10)

luego, pones tu video en la segunda pista y la imagen con la caricatura en la primera.

un tip: graba un frame o imagen de tu pelicula donde quieres que aparezca esta dialogo caricaturezco. este lo usaras de plantilla para poner exactamente el dialogo donde tu quieras.

saludos y suerte!!