Tu peux obtenir des très bonne qualité en faisant ce qu'on appelle du Tiny Mkv, grâce à ça tu peux encoder des films en 720p et avoir une taille de 400 MB, je te conseille de regarder par ici :
http://forum.mkvcorporatiration.com/viewtopic.php?id=61
J'ai jamais testé donc je sais pas ce que ce tuto donne, mais j'ai déjà vu des tiny mkv très étonnant...
Sinon, si tu te fiches de la taille, le mieux est de laisser le fichier comme tu l'as reçu, depuis ta source (dvd, blu-ray, camescope,...)