Y el mensaje?  

Vamos a ver el problema que tienes es ese que tu tarjeta grafica solo tiene salida a tv eso quiere decir que solo puedes sacar imagenes del ordenador para pasarlas a un video o tv, pero no puedes hacer el proceso contrario es decir pasar imagenes del vhs al ordenador para eso necesitas un capturadora de video que es otra tarjeta distinta,

Prueba a subirle la memoria virtual, dile que la administre el sistema, puedes probar a irte tambien a inicio->ejecutar y pon msconfig y y en la pestaña inicio quita todo lo que hay y reinicias y prueba a ver, prueba con capturas chicas de 15 segundos a ver si tambien te lo hace, Comprueba  los directx 9.0.b que los tienes instalados, controla tambien que no sea porque la temperatura del amd se te eleva demasiado eso lo puedes mirar cuando se te quede colgado, reinicias y nada mas encender el ordenador le das varias veces a la tecla supr hasta que te aparezca la bios, busca una opcion que se llama hardware monitor y mira a que temperatura esta la cpu que no pase de 60º.

Pues hasta ahi no llego porque del virtualdub voy bastante cortito, siento no poder ayudarte en eso pero seguro que hay alguine por aqui que si lo puede hacer, respecto a los saltitos revisa que tengas instalados los directx 9.0.b y que en el inicio no te cargue demasiadas cosas, si tienes bastantes pues descargalas antes de capturar.

Pues puede ser porque estes capturando en ntsc cuando el video es pal, o si usas algun adaptador de super-v a rca o viceversa que el adaptador este mal.

Vamos a ver si miras por detrás de la tarjeta grafica y tienes el conector de monitor (vga) y solo uno de video ya sea rca y super-v, y con el modelo de tarjeta grafica que tienes que yo sepa solo tienes salida de tv con lo cual no puedes capturar como mucho sacar a un vhs lo que ya tienes en el ordenador. Lo digo porque yo todavia no tengo constacia de que ese modelo de tarjeta grafica tenga entrada de video.

Empieza por comprobar que el disco duro que tienes donde haces las capturas es de 7200 revoluciones y no de 5400 rpm, si este no es el problema prueba a capturar con algun programa que te lo haga en avi directamente sin compresion para descartar que el problema sea ese.

Pues entonces cojes te vas a inicio-->ejecutar y pones msconfig te vas a la pestaña de inicio y deshabilitalo todo, reinicia y pruebas si te funciona quiere decir que algun programa se te esta cargando en memoria y es lo que te genera el problema, asi que cojes te vas al mismo sitio otra vez y actvias solo lo necesario como antivirus y adsl y pruebas.

Has probado a ver si hay alguna actualizacion de firmware de tu grabadora?

Eso quiere decir que hay dvd que se pueden grabar en dos profundidades distintas con lo cual te permiten grabar hasta 9 gb. Cuando actualizas el firmware de un aparato lo que haces es meterle un software nuevo es como actualizar un movil que se hacen mejoras para que funcione mejor o corregir posibles fallos anteriores, en tu caso pues consigues que tu grabadora te de esa posibilidad que seguramente tendria recortada. En algunas camaras digitales que no traen la funcion de dv-in actualizando el firware pues se le activa. Ya sabes esto es politica de empresa pa ganar mas dinero porque la que lo trae ya activado pues vale un poquito mas que la que no. Ahora HAY QUE TENER CUIDADO porque si cuando lo estas actualizando se corta la luz o no se hace bien la grabadora ya no funciona y a la basura, y otra cosa una vez actualizado a una version superior no puedes regresar a una anterior, por lo menos en las grabadoras.

Has comprobrada todos los drivers?, mira que tengas los directx 9.0.b y prueba con los ultimos de la tarjeta grafica si ya los tiene entonces prueba con unos anteriores. Prueba tambien con el movie maker a ver si te captura bien para saber si es problema del studio o del windows xp.

Mira cualquiera que sea capaz de capturarte en avi dv 720x576, luego con el tmpencoder pues lo conviertes a otro formato haz una prueba por lo menos a ver si es por eso , si pese a eso sigues perdiendo frames puede ser por tu placa base que sea ata66 o el cable del disco duro sea de este tipo en vez de ata100 o de 80 hilos.

Bueno, pues bienvenido a la comunidad, y aqui estamos para lo que necesites.

Pues como está en la foto que te adjunto. Descargatela y lo veras mejor.

Me acabo de acordar que la Avermedia tiene en la misma tarjeta de tele una entrada de audio, cuando se quiere capturar algo se hace ahi no en la entrada de linea de la tarjeta de sonido, puede ser que la tarjeta que tu tienes le pase lo mismo.