No tengo canal gamer ni nada...pero hago captura de mis gameplays algunas veces y lo hago con fraps. Sin importar el soft Cuando usas programas de captura como fraps o mirilis o cualquier otro si o si necesitas una buena pc y una muy buena placa de video.
Opino desde mi experiencia usando estas dos pc.
phenom II x6 8gb ram AMD HD6770 1Gb: me limito a grabar en resolucion de 720p.
I7 3770k 8gb ram AMD HD6850 1gb: por ahora grabo todos los juegos a 1080p.
Para el formato mp4 utilizo "mediacoder"(muy bueno da muchas opciones como bitrate)
Para hacer un montage recomendaria adobe Premiere tambien tiene opciones de bitrate y todo eso si queres hacer video con comentario.
dejo unos videos mios paque vean la "calidad" de conversion de FRAPS(avi) a mp4.
Convertido con premiere cs6(max res. 1080p)
Jugando Oleadas Sniper Elite V2...No aguanté mucho.
Convertido con mediacoder (max res. 720p)
Sniper Elite V2 - Mi mejor disparo a larga distancia 741 metros.

Otra manera de conseguir rendimiento(pa ke no caiga los fps)es conseguir una capturadora gamer pciE como la de avermedia. este video esta en ingles pero se daran una idea de como funciona:
Avermedia Live Gamer HD Game Streaming HDMI Capture Card Showcase NCIX Tech Tips

[mod]Corregido los enlace para visualizar los vídeos en el mensaje.[/mod]

Muchas gracias por el tema.
Lo hemos incluido en Preguntas frecuentes sobre Captura de pantalla.

Saludos.