Bonjour j'ai besoin d'aide,
voici mon exo

Q forme quadratique de R3 suivante
q(x1,x2,x3)=a.x1²-2bx1x2+x2x3

il me faut une base orthogonale pour q, l'expression de q dans cette base et sa signature en fonction de a et b (valeurs réelles quelconques)

Normalement j'y arrive mais le a et b me posent soucis

C'est un peu chiant, tu peux chercher à exprimer q comme somme de carrés. Sauf erreur, t'as (pour a=/= 0, faut traiter séparément le cas a nul) :
q = a(x1 - bx2/a)² - (bx2/a - ax3/(2b))² + (a²/(4b²))x3²
Là t'as directement la signature selon le signe de a, et pour trouver une base orthogonale faut trouver des vecteurs qui annulent 2 des trois carrés.