J´ai trouvé en recherchant sur flipcode : il semblerait que ce soit dû à l´imprécision sur les nombres flottants.
Le rayon réflechi est défini par :
Origine : le point d´incidence du rayon incident sur la surface
Direction/Sens : incident-2*DotP(incident,normale).normale
Pr dans certains cas, le calcul du rayon réfléchi produit un résultat tel que ce dernier possède une origine à l´intérieur de la surface sur laquelle il se réfléchit, ce qui mène à une collision avec la sphère par l´intérieur dans mon cas.
La solution :
Remplacer : Origine = point d´intersection
Par : Origine = point d´intersection + epsillon * direction/sens du rayon réflechi.
http://img105.imageshack.us/img105/6381/sanstitre7bk.png