CONNEXION
  • RetourJeux
    • Sorties
    • Hit Parade
    • Les + populaires
    • Les + attendus
    • Soluces
    • Tous les Jeux
    • Gaming
  • RetourActu Gaming
    • News
    • Astuces
    • Tests
    • Previews
    • Toute l'actu gaming
  • RetourBons plans
    • Bons plans
    • Bons plans Smartphone
    • Bons plans Hardware
    • Bons plans Image et Son
    • Bons plans Amazon
    • Bons plans Cdiscount
    • Bons plans Decathlon
    • Bons plans Fnac
    • Tous les Bons plans
  • RetourJVTech
    • Actus High-Tech
    • Intelligence Artificielle
    • Smartphones
    • Mobilité urbaine
    • Hardware
    • Image et son
    • Tutoriels
    • Tests produits High-Tech
    • Guides d'achat High-Tech
    • JVTech
  • RetourCulture
    • Actus Culture
    • Culture
  • RetourVidéos
    • A la une
    • Gaming Live
    • Vidéos Tests
    • Vidéos Previews
    • Gameplay
    • Trailers
    • Chroniques
    • Replay Web TV
    • Toutes les vidéos
  • RetourForums
    • Hardware PC
    • PS5
    • Switch 2
    • Xbox Series
    • Switch
    • Pokemon pocket
    • FC 25 Ultimate Team
    • League of Legends
    • Tous les Forums
  • PC
  • PS5
  • Xbox Series
  • Switch 2
  • PS4
  • One
  • Switch
  • iOS
  • Android
  • MMO
  • RPG
  • FPS
En ce moment Genshin Impact Valhalla Breath of the wild Animal Crossing GTA 5 Red dead 2
Liste des sujets

[Maths] Inégalité machine learning

nyanchaton
nyanchaton
Niveau 10
05 février 2018 à 18:02:24

https://image.noelshack.com/fichiers/2018/06/1/1517849867-capture-d-ecran-2018-02-05-a-17-57-13.png

Salut les gars, je bloque complétement sur cette question. Quelqu'un à une idée ?

eta(x) = proba(Y=1 | X=x) ie la proba que le label soit 1 connaissant l'observation.
L(g_n) = Proba(-g_n(X)*Y) >0) c'est à dire le risque i.e la proba de faire une mauvaise classification car g_n(X) est à val dans {-1,1} et Y aussi, si -g_n(X)Y est >0 c'est que g_n(X)Y est <0 autrement dit qu'on fait le produit de termes de signes opposés, donc de labels opposés.

L* est le risque de bayes, le risque le plus faible possible.

Cet exercice s'adresse à ceux qui ont touché un peu a l'apprentissage statistique :hap:

Merci d'avance :oui:

Message édité le 05 février 2018 à 18:03:17 par nyanchaton
Prauron
Prauron
Niveau 15
05 février 2018 à 19:28:22

Si tu prends la preuve de l'optimalité du risque de Bayes, t'as dû exprimer le risque d'un classifieur quelconque g en fonction de eta(X). Je pense qu'il faut que tu partes de là pour exprimer L* - L(g_n).

Tu peux t'inspirer de ça :
https://www.stat.berkeley.edu/~bartlett/courses/2014spring-cs281bstat241b/lectures/02-notes.pdf

Prauron
Prauron
Niveau 15
05 février 2018 à 19:55:56

Plus précisément, utilise le théorème page 6, et inspire toi de la preuve page 10.

nyanchaton
nyanchaton
Niveau 10
05 février 2018 à 22:02:23

Ouais j'étais parti du théorème 6, on doit souvent le redemontrer donc ça ok, mais le délire de faire apparaître le carré ... j'ai que dalle. pareil, j'ai une hp de |eta(x) -1/2| > delta que je vois pas comment bien utiliser ici pour avoir la majoration fine qu'on demande :(

Prauron
Prauron
Niveau 15
05 février 2018 à 22:30:34

Regarde la preuve page 10.

Jusqu'à l'égalité après le "we have" tu peux recopier texto.
T'as donc 1(blabla)*|eta(X) - 1/2| <= |eta(X) - eta_n(X)|.
En élevant au carré, ça donne
1(blabla)*|eta(X) - 1/2|² <= |eta(X) - eta_n(X)|² (*)

Or L(g_n) - L* = E[2*1(blabla)*|eta(X) - 1/2|] = E[2*1(blabla)*|eta(X) - 1/2|²/|eta(X) - 1/2| ] <= E[2*1(blabla)*|eta(X) - 1/2|² ] / delta
Et en prenant l'espérance dans (*) t'as le résultat.

nyanchaton
nyanchaton
Niveau 10
05 février 2018 à 22:44:49

En effet, stupide trick. :hap: merci :oui:

Sous forums
  • Histoire
  • Philosophie
  • Cours et Devoirs
  • Politique
  • Environnement & Nature
  • Métiers & Orientation
La vidéo du moment