Plusieurs choses :
Déjà, essaie de mettre des parenthèses dans tes calculs, sinon on sait pas exactement ce que tu calcules.
Bon, là je suppose que c'est "sqrt(2)/2", ça paraît logique.
Bref :
déjà, tu t'es trompé, cos(pi/3) ne vaut pas sqrt(2)/2.
Ensuite, en ce qui concerne les solutions dans IR :
Quand tu donnes les solutions sur [0;2Pi[, tu trouves deux solutions différentes. Mais la fonction cosinus est 2-Pi périodique. Donc sur IR il y a une infinité de solutions, et non pas simplement deux solutions.