Tu n´as pas très bien compri le principe, il faut un serveur X qui implémente OpenGL, à savoir soit XGL ou Xorg à partir de la version 7.1, car elle intègre AIGLX.
Je recommande fortement d´utiliser Xorg 7.1, pour peut que les pilotes de ta carte graphique le support (Si tu as du Nvidia, il te faut les pilotes beta 9xxx).
AIGLX est plus léger que XGL, mieux intégré à X.org, alors que XGL est une surcouche à X.org, c´est plus lourd et potentiellement moins stable.
Et il te faut ensuite un gestionnaire de fenêtre, tu as encore le choix, entre compiz ou beryl.
Perso, je te conseil beryl, il est basé sur compiz, mais son développement est bien plus rapide, il est beaucoup plus paramétrable, plus avancé, mais légèrement moins stable.
Niveau stabilité, j´ai jamais eut à m´en plaindre, avec les dernières versions...