Estuve viendo el manual del equipo. Si bien tiene una salida de RF, no parece ser una salida del equipo, sino sólo una ficha para intercalar el equipo en el camino de la señal de RF (las especificaciones técnicas ni los diagramas de conexión la muestran como salida).
De todos modos te queda el recurso de usar la videocasetera como conversora de la señal.

Tienes que ver en las especificaciones técnicas ó en el aparato mismo si tiene una salida de RF.

Ese efecto de rallado que mecionas se llama entrelazado (interlace). Es una consecuencia de la forma en que funciona el sistema de video y la captura. En los manuales del sitio puedes encontrar mas informacion.
-Si el destino final es un DVD y ver los videos en TV, en general no representa un problema y no te va a aparecer.
-Si el destino final es ver los videos en la PC, tienes que aplicar un filtro de desentrelazado (deinterlace) en la edición.

Scrapy:
-Los cuadritos que mencionas, puede ser porque estas capturando en un formato comprimido. ¿que extension tiene el archivo que te genera?.
-¿A qué te refieres con el retraso de captura? ¿A que el sonido no está sincronizado con la imagen o a otra cosa?

En forma resumida:

1) Vas a la opcion File->Open y abres el archivo de extensión m2v.
2) Vas a la opcion Audio->Main Track, seleccionas "External mp2/3" y eliges el archivo extensión mp2 que tienes.
3) En la opcion Format que tienes a la derecha eliges "AVI"
4) Vas a la opcion File->Save->Save Video y lo grabas con el nombre que quieras.

En mi opinión, la pérdida de calidad no es significativa.
Tienes que tener cuidado con el tema del entrelazado (interlacing). Puedes hacerlo de 3 maneras:
1) Setear el programa de captura para que te capture a 480 lineas (352x480 ó 720x480). Dependiendo de la potencia de tu maquina y las capacidades del programa de captura puedes cambiarle en el mismo momento o en un paso posterior la velocidad de cuadros de 25 fps a 29,97 fps. (Yo prefiero siempre hacerlo a posteriori de capturado).
2) Capturar en PAL a mitad de lineas (352x288 ó 720x288). Luego hacer resize (cambio de tamaño) a 352x480 ó 720x480 y cambio del fps.
3) Capturar en PAL a cuadro completo y hacer resize y cambio de fps. OJO: para este caso tienes que agregar un filtro de desentrelazado (deinterlace) antes del resize (si no te queda horroroso).

Mis preferencias son en el orden que menciono. Haz una prueba con cada uno y adopta la que más te convenza.

Si, tiene que ver. Es un problema insalvable. Los reproductores de DVD que comercializan aquí en Argentina tienen la norma PAL europea, pero nuestros televisores son PAL-N. Lo que puedes hacer son dos cosas:
-Si tu televisor es bi/trinorma, setear el reproductor de DVD para que su salida sea NTSC. El reproductor te va a convertir la norma y vas a ver los colores, aunque con la resolucion del NTSC.
-O bien exportar y grabar los DVD directamente en NTSC.

Con los videos que alquilas no hay problemas porque casi todo el material que se comercializa aquí está en NTSC.

¿De donde eres? Te pregunto esto porque este es un problema tipico en Argentina, porque la norma PAL de los reproductores de DVD no es la PAL-N de los televisores.

Si es la PC o la capturadora es dificil saber. Suena como que es problema de la PC pero no hay seguridad. Tendrias que probar la placa en otra PC.

Lo unico que me queda por sugerirte es que pruebes una entrada de RF (si la tiene) o S-Video.

Otra pregunta: ¿para conectar el televisor, estas usando la misma salida que para conectar a la placa? Si no es así, deberías probar usar la misma.
Otra prueba que puedes hacer es usar una videocasetera distinta.

En mi experiencia, la diferencia entre usar el RF y RCA no es tan marcada para que uno califique al RF de "mala calidad".
Me parece que la mala calidad que señalas no es por usar el RF, sino que el aparatito en si o está fallado o es de mala calidad de por si (conozco gente que ha comprado algo similar y esta totalmente desconforme).
De todas maneras te quedaria verificar si el puerto de tu maquina es norma 2.0 y probar en otra maquina.

Depende de la calidad de la transmision de TV. Si es algo ruidosa te conviene usar un bitrate mas alto, como 5000, para no tener muchos "artefactos" mpeg.
Yo no usaria mas de 352 para el horizontal. En mi experiencia, se nota mas la falta de calidad cuando se producen artefactos mpeg por falta de ancho de banda que por usar menos pixeles de resolucion.

Con el programa Avidemux puedes leerlos, editarlos y grabar un .avi

¿El problema te aparece durante la captura o cuando visualizas el video capturado?.
Si lo reproduces varias veces, ¿se pone lento siempre en los mismos puntos o varia?.
-Prueba primero hacer capturas a baja resolucion, 352x288 (pal) ó 352x240 (ntsc), luego a resoluciones medias 352x576/480. Si en las bajas resoluciones no tienes problemas y en la altas sí, probablamente sea falta de potencia de tu hw o algo en la configuracion del sistema. Revisa el manual que hay en este mismo sitio sobre Virtualdub, donde hay algunos consejos sobre seteos en la PC.