Soit une fonction f de R^3 dans 3 telle que f(x,y,z) = x^2 -2xy +yz + y -z

La question est de déterminer les extrémums de f.

- f est bien de classe C2 sur R^3 car polynomiale
- R^3 est un ouvert de R^3 donc f admet ses extremums en ses points critiques,
- je trouve (1,1,1) en point critique
- détermine ensuite la matrice hessienne pour savoir si (1,1,1) est max ou min
- Je trouve une matrice hessienne indépendante des x,y,z, j'ai vérifié et c'est la bonne : https://www.wolframalpha.com/input/?i=hessian+matrix+x%5E2-2*x*y%2By*z%2By-z

Le problème c'est qu'elle admet une valeur propre strictement négative, et une strictement positive. Or dans mon cours, à partir de ça, f n'admet pas d'extremum, où ais-je faux?

Pourquoi avoir faux ?

f n'admet tout simplement pas d'extremums, tu as parfaitement bien résolu l'exercice pour moi.
Enfin, surtout parce que ton cours spécifie qu'on ne peut pas avoir d'extremum dans ce cas-là.

D'ailleurs t'as pas besoin de calculer de hessienne pour voir.
f(x,0,0) = x^2 et f(0,0,z) = -z.

D'accord merci mais la question suppose qu'il y ait un extremum, donc sachant qu'il n'est pas local, il doit être global, or même en cherchant en global je trouve pas..

Un extremum global est aussi un extremum local