(Respuesta en español más abajo)Most of the capture cards with Conexant BT8x8 chip do not allow captures in overlay mode above 288 vertical pixels. The reason for that is, as stated in the error message, that with more resolution than 288 pixels video must me interlaced. If you REALLY need to capture at that resolution I would even switch off the preview mode and dedicate all the resources in the system por capturing. The BT8x8 chip is not very powerful and it only works fine under 288 vertical pixels.
On the other hand, you are still a W98 user wich is a problem when capturing. In case you didn't know, Windows 98 uses FAT32 hard disc partitions and that system only allow files under 4 Gb. You CANNOT create captures larger than that. The solution is to use W2K or XP with NTFS.
PS: As this is a web site dedicated to Spanish speaking people I've taken the freedom to translate your post and reply. Hope you don't mind

*******************************************
Tal y como se indica en el mensaje de error, las capturadoras basadas en el chip Conexant BT8x8 no pueden capturar a más de 288 puntos verticales con el modo de superposición activado. Eso es debido a que a partir de esa resolución es necesario entrelazar el vídeo y no es un chip tan potente como para hacer todo eso. Aunque se puede capturar a más de 288 verticales, yo iría más lejos y, si realmente necesitas capturar a esa resolucíón, desactivaría por completo incluso la vista previa, no sólo el modo de superposición.
Indicas además uqe usas Windows 98. Eso supone un problema ya que esa versión de windows usa el sistema de particiones FAT32 que tiene un límite en el tamaño de los archivos de 4 GB. Eso supone un problema grande a la hora de capturar vídeo, ya que se suelen sobrepasar ese límite con basatnte facilidad. La solución es usar Windows 2000 o XP que son capaces de usar particiones NTFS
Obrigado pela resposta acerca da minha questao.
Gracias.