T'as redémarré ton PC ? Redémarré Steam ?
Fait clic droit sur le jeu et "contrôler l'intégrité du cache" ?
Si oui, as-tu mis des choses dans le "lancement" de DotA, genre -console -novid ou une résolution ?
Le souci vient du fait que ton jeu est forcé de démarrer dans une résolution non voulue.
Si tu as tout fait mais que rien n'y change, go ici : http://www.touslesdrivers.com/index.php?v_page=29
Tu installes leur plugin et tu mets à jour tes drivers vidéos (et les autres en passant, ça sera fait).
Vérifie aussi que t'as bien Directx9 (voir 11 selon) d'installer et en dernière version.
Précise ton OS aussi (Mac ? XP ? Vista ? 7 ? ...)
Tu as des infos ici si tu comprends l'anglais : http://www.valvetime.net/threads/failed-to-set-video-mode-resetting-to-defaults.52009/ (go google trad sinon).