Comment faire ? c'est lié aux dérivées partielles je crois mais sinon je sais pas comment faire

La solution de ton pb d'optimisation c'est f(1/sqrt(2),1/sqrt(2))

comment on fait trouver ce résultat?

pour*

Là ta contrainte c'est que t'es dans le cercle unitaire pris avec le bord (donc c'est un fermé). Pour trouver le maximum, il faut considérer les points critiques de la fonction, c-à-d ceux où le gradient s'annule (attention cela n'est possible que dans les ouverts contenus dans ton fermé). Ici le gradient ne s'annule jamais donc si on avait eu un ouvert à la place d'un fermé il n'y aurait pas eu de maximum.
Mais pour un fermé il faut aussi regarder la dérivée le long de la ligne qui constitue le bord (x^2+y^2=1).

Enfin pour ton exemple c'est assez trivial.

il faut chercher quand le gradient s'annule ?
mais il n'y a pas aussi de minimum à trouver ?

Optimiser dans quel sens en fait ? Trouver le minimum ou le maximum ?

Ben dans un ouvert si tu as un extremum alors le gradient est nul en ce point. Après vu qu'on a un fermé et pas un ouvert il fait regarder aussi sur le bord.