Tu devras le crack ou le payer, FRAPS est limité à 60 secondes dans l'enregistrement vidéo me semble t-il, et les fichiers sont assez lourds. Franchement essaye de faire ShadowPlay parce que c'est le plus simple, le plus pratique, ce qui te bouffera le moins de performances, un seul logiciel qui fait tout.
Essaye de le mettre à jour et vois si ça change quelque chose, autrement, reviens sur des versions précédentes et vois si tu en as une qui marche.
http://www.nvidia.fr/Download/Find.aspx?lang=fr