quisiera saber si al crear un menú con architect con un video (es decir preparar un DVD), en vez de grabarlo en dvd podría crear un .avi con ese menú y con el video?

importa al vegas ambos desde el DVD, colocas el archivo del meno y el del video en el time line y renderizas como avi.

pero entonces podré utilizar el menú igual que en un dvd? o solo será la imagen del menú?

no, no prodrás usar el menú. La única forma de usar el meno es creando el DVD con un programa de autoría y no generan archivos avi.
Lo que yo te dije solo te quedara el menú como una imagen.

Para menús en avi, los admite en DivX, con algún programa que cree menús para Divx, desde luego no te valdrá el generado con Architect u otro programa de autoría.
Estos avi con menú los podrás reproducir en el PC; pero muy poquitos reproductores externos, aunque admitan DivX, soportarán dichos menus.