Bah en réalité c'est tout bête

f(f(x))-2f(x)=5

f(f(x))=2f(x)+5
et là la fonction f(x)=2x+5 se descelle toutes seule ...

Si tu considères f affine t'as pas besoin de dériver. Tu poses f(x)=ax+b
fof(x)=a²x+ab+b

donc on doit avoir a²x+ab+b=2ax+2b+5

=> a²=2a et ab+b=2b+5 donc (a,b)=(0,-5) ou (a,b)=(2,5)

Après avoir vu vos deux trucs j'ai l'impression d'être débile
Je mets ma méthode pour ceux que ça intéressent quand même :
f² - 2f -5 =>' f'*f'of - 2f' = f'(f'of -2) = 0
f' = 0 (on trouve alors f(x) = -5) ou f'of = 2 (on trouve alors f(x) = 2x + 5)

Dans le même genre, cherche une fonction telle que
f(f(x))=x²-42

f est simplement une fonction de IR dans IR

Il suffit d'appliquer le théorème du point fixe en fait. (mais c'est un peu trop compliqué pour une 1ère S).

Même si on sait pas a priori qu'elle est dérivable, c'est pas grave. Comme il suffit de trouver UNE solution, il suffit de se restreindre dès le départ aux fonctions dérivables, et si on en trouve une qui marche c'est bon. En revanche si on demandait TOUTES les solutions, effectivement on pourrait pas faire ça.

Sureminance fg = 0 n'implique pas f = 0 ou g = 0. Cela dit effectivement chercher une solution de f'of = 2 permet de trouver une solution.
L'autre possibilité étant de directement chercher une solution affine.