C'est même impossible car ce n'est pas une équation.
On cherche dans ton énoncé les points x dont l'image par f est lui-même.
Or, l'image par f de x est f(x).
On cherche donc tous les points x tels que f(x)=x.
Ce que tu n'arrête pas de répéter c'est f(x), l'image par f de x qui est un réel.
Ce que tu demandes quand tu dis "résoudre 5x²-3x-1/x-3" revient à dire quelques chose comme "résoudre 3 ou "résoudre 16"...
Enfin bref, il faut résoudre f(x) EGAL x 