1) On parle pas de "versions de Linux", Linux est le noyau, pas le système. On parlera plutôt de distribution (debian, fedora, arch, gentoo, openSUSE, ...). Pour la version du noyau, la plus récente version stable est en général le compromis le plus universel.
Pour l'installation sur clé, c'est possible. Simplement si c'est une installation en dure, ta clé va être bousillée en moins de deux puisque de tels périphériques ne sont pas prévus pour supporter le jeu d'I/O constant d'un système d'exploitation qui tourne. Si tu tiens à garder la portabilité d'une clé, et au vu de ton utilisation, tu ferais mieux de t'orienter vers des distributions disponibles en liveUSB: le système est compressé sur une clé flashée, et se libère dans la RAM lorsque l'ordinateur démarre dessus. C'est moins rapide, un brin plus instable et si tu veux de la persistance entre les boots faudra bricoler un peu, mais c'est à mon avis beaucoup plus sage que de bouffer une clé tous les 3 mois.