Je viens de réussir à activer la 3D sur mon iBook dernière génération (avec une ATI 9550), ce qui est d'ailleurs plutot simple !
Il suffit de suivre les recommendations d'ici :
http://ubuntuforums.org/showthread.php?t=247412
Par contre pour XGL, je galère encore un peu pour trouver un bon tuto.
EDIT : cette méthode
http://ubuntuforums.org/showthread.php?t=176582 a affreusement planté mon X au redémarrage, obligé de sortir le live-cd pour corriger le fichier de conf de gdm :/