Siento darte malas noticias, hasta donde yo se (que es XFree86 3) la ventana virtual es siempre del tamaño de la resolución mas alta o superior. Un truco que yo empleo es jugar con las profundidades de color. Es decir tener como tamaño máximo en 24bpp la resolución 640x480 y en 16bpp tengo 800x600 (mi monitor es muy modesto). El problema que tiene eso es que debes reiniciar la X para cambiar de resolución. Si se os ocurre alguna otra cosa....