Mh, oui, j'avais pas vu ça sur le coup. Mais tu peux t'en sortir : si f vérifie l'équation du problème (P) en étant C^2, dériver deux fois donne
f(x+1) = f(x) - 1/(1+x)^2.
Miracle, le machin qu'on ajoute à droite est intégrable/sommable, donc notre f'' a une limite en l'infini, quitte à extraire une sous-suite. Par exemple,
f(n+1) = f(0) - somme(k=0, n, 1/(1+k)^2) -> f''(0) + pi^2/6.
De manière générale, pour x € [0,1],
f(x+n+1) = f(x) - somme(k=0, n, 1/(1+x+k)^2).
Comme f est solution de (P), on doit f''(x+n+1) > 0 pour tout x € [0,1] et tout n € N. On en déduit donc que
f''(x) > somme(k=0, n, 1/(1+x+k)^2). (*)
En prenant la limite n -> + infini, on a donc, pour tout x € [0,1],
f''(x) >= somme(k=0, infini, 1/(1+x+k)^2). (**)
En réinjectant dans (*), on a donc
f''(x+n) >= somme(k=n, infini, 1/(1+x+k)^2)
pour tout x € [0,1] et tout n € N.
Finalement, pour tout y > 0, on a
f''(y) >= somme(k=n, infini, 1/(1+y-n+k)^2)
= somme(k=1, infini, 1/(y+k)^2).
L'on reconnaît précisément ici phi''(y) dans le membre de droite, ce qui est nettement plus fort que ce qu'on avait au départ.
Ceci prouve alors que h comme tu l'as définie est périodique et concave, elle est donc constante - donc nulle.
(Taupiner à cette heure-ci, c'est vraiment pas glop.)