Bonjour à tous!

J'ai un problème en optimisation, je commence un cours un peu différent de ce que j'ai pu voir jusque là puisqu'il s'agit d'optimisation numérique, et j'ai un peu de mal à cerner quelques concepts...

Premièrement, une phrase de mon cours est souvent utilisée, et je ne la comprends pas du tout :

"Le gradient dépend d'un choix de produit scalaire sur R^n"

Qu'est ce que ça signifie?

Ensuite, un autre point me perturbe :

On suppose que f admet ce développement :
f(x+h) = f(x) + <grad(f(x)),h> + o(h)

et on cherche une direction de meilleure descente pour f, et là , de but en blanc, on dit que l'idée est de minimiser par rapport à h :

f(x) + <grad(f(x)),h> + (1/2)*norm(h)^2

Pourquoi? d'ou vient ce (1/2)*norm(h)^2?

Enfin, un calcul n'est pas explicité dans mon cours, et je n'arrive pas à le faire :

Soit e>0,

min [ <grad(f(x)),h> + f(x)] sous contrainte norm(h)<=e
et on trouve h = -e*grad(f(x))/norm(grad(f(x)))

Merci d'avance!

non mais c'est trop dur ce truc, on est pas des oufs non plus
ton exo c'est pour les martiens asiatiques avec un double-cerveau

Ben le gradient est defini grace au produit scalaire donc il en depend!

Et javoue que je comprends pas dou vient ce terme jaurais mis plutot la hessienne ca aurait ete plus logique... jvais mrenseigner

Comment ça le gradient est défini grâce au produit scalaire?

Bon pour le calcul du minimum, en cherchant un peu j'ai trouvé d'ou ça venait, j'ai appelé grad(f(x)) = (a1...an), h = (h1...hn), et j'ai résolu le programme suivant :

min{a1*h1 + ... + an*hn, h1^2 + ... + hn^2 = e^2}

J'ai pas eu le courage de faire avec contrainte d'inégalité, par ce que je me doutais que le min était atteint sur le bord (bon en plus connaissant la solution, on voit tout de suite que norm(h) = e...) par ce que je ne me rappelle plus des KKT...

Il y avait un argument pour dire que le min était sur le bord directement?

Ben le gradient de f en a est l'unique vecteur u tel que pour tout h on ait :

df(a)(h) = <u,h>

Quelquefois ils supposent que la hessienne est l'identité, ce qui expliquerait ce terme ||h||². Après pour le bien-fondé de la supposition, j'en suis pas intimement convaincu mais bon
Ca permet de fixer à la fois une direction de descente et un pas de descente, et de façon simple ceci dit. Après les pas de descente il y a beaucoup de façon de les choisir, c'een est une comme une autre

C'est quoi cette branche des maths + quel niveau?

iv555
Mais oui, théorème de riesz fréchet en plus il me semble...

morphisme
la hessienne est l'identité?

JamieGourmand
C'est de l'optimisation, je suis en 3e année en maths à Dauphine

Si la hessienne est l'identité f(x) + <grad(f(x)),h> + (1/2)*norm(h)^2 est le DL2 de f en x. Mais y'a pas de raison pour que ça soit le cas...

Je vais peut être dire une bêtise, mais si on est à la plus grande pente, à priori la différentielle d'ordre 2 est nulle non ?

Enfin, c'est une piste de réflexion que je propose, rien de plus.

Oui en effet mais il n'y a aucune raison que ce soit le cas c'est sûr

Si ça peut t'aider, j'ai retrouvé ça dans un cours...

"la hessienne est l'identité?"

J'ai déjà vu de telles approximations dans des méthodes d'optimisation du second ordre approchées, où on approche la valeur de la hessienne à l'aide des gradients et on l'initialise à l'identité. En pratique je sais pas du tout si la remplacer au pif par l'identité amène plus de stabilité que la descente de gradient "pure". Cette dernière a tout de même généralement tendance à converger lentement parce que l'algo est trop "sensible", y'a pas de "terme régularisant" quoi.

Ça me donne pas très envie de continuer en mathématiques appliquées l'an prochain, je crois que je vais me retrancher sur éco app' :p

Prauron et Morphisme : merci pour le lien, et pour les quelques pistes

Kakhashi
Tu devrais rester en maths... Bien plus de debouchés, et les profils maths vont à peu pres où ils veulent (les maths sont presque priviligiés par rapport aux eco sur les Masters... d'eco) et puis ce n'est pas si horrible que ça

Le cours d'integration de Lebesgue à raison de 6h/semaine du premier semestre envoie du tres, tres lourd, mais une fois ce petit desagrement passé...

Je voulais pas dire nulle mais l'identité...

Tu fais quoi al_cube ?
Les maths appliquées ça m'intéresse.
J'aimerai faire de la recherche (je ne suis actuellement qu'un petit étudiant de licence).

Mais de toute façon il n'y a aucune hypothèse sur f qui permette de parler de sa hessienne... J'imagine que ce terme en 1/2 norm(h)^2 est là pour contrebalancer le fait que :

inf{ f(x) + < grad(f(x)) , h > } = -oo, suffit de prendre

h = -k*grad(f(x)), et k -> +oo...
et donc on préfère regarder

inf{ f(x) + < grad(f(x)) , h > + (1/2)norm(h)^2 } ...

Autrement [nicomezi] je suis à dauphine en 3e année du parcours maths appliquées.
En gros en licence pour l'instant c'est juste quasiment que des maths pures : calcul différentiel, topologie, intégrale de lebesgue, analyse fonctionnelle etc.

Après on a des cours un peu plus appliqués : statistiques, théorie des jeux, microéconomie dans l'incertain, gestion des risques financiers etc.

Puis au niveau master tu commences à faire du calcul stochastique, equations aux dérivées partielles, processus discrets, controle des chaines de markov, series temporelles, méthodes de monte carlo, analyse convexe etc. et puis pas mal de choses qui touchent aux mathématiques du risque financier.

Les maths appliquées c'est vraiment assez sympa, mais faut aimer les débouchés, surtout quand c'est clairement orienté vers ce qui se rapporte à la finance comme ici. Après tu peux toujours faire de la recherche en maths appli genre théorie des jeux, économie, même physique, ou chercheur en maths financières. Par contre faut avoir un (très?) bon niveau pour pouvoir faire de la recherche... Il y a d'ailleurs à Dauphine un excellent master recherche en maths appli, qui s'appelle le MASEF...

Merci pour ta réponse !
Les débouchés faut voir, personnellement j'aimerai faire autre chose que des maths fonda et allier le plus possible ce que je ferai avec la physique mais en continuant à faire des maths.

La recherche sur le problème à n corps est pas mal "à la mode" je crois ^^