Calet
Je n'ai pas le niveau (ou du moins si je l'ai, je n'en suis pas conscient) pour décrire le fonctionnement d'MD5.
Cependant, les fonctions "à sens unique" existent bel et bien en mathématiques (aussi nommées "fonctions trappes"), un des exemples les plus courants, c'est le modulo.
D'ailleurs, dans de nombreux bouquins relatifs à la crypto, tu trouveras une description des algos comme RSA ou encore Diffie-Hellman faisant appel à des fonctions mathématiques assez connues. Ce qui est complexe derrière ça, c'est de trouver des nombres premiers ou semi-premiers assez énormes pour former des clés robustes face au bruteforce, entre autres, mais on peut vulgariser l'algorithme assez facilement pour l'expliquer au commun des mortels.
J'ai un livre à te conseiller si tu es curieux:
"Comprendre les codes secrets", par Pierre Vigoureux, ce bouquin est une pure merveille, accessible et précise (bref un bouquin comme je les aime), et pas hors de prix. http://www.amazon.fr/Comprendre-codes-secrets-Pierre-Vigoureux/dp/2729853685