Juste histoire d'avoir un peu plus de FPS.
En sachant que j'ai 764 Mo.

Je sais juste qu'il ne faut pas mettre le maximum sinon je risque de graves problèmes...

J'écris quoi dans java ?
Par exemple quand j'écris ça : -Xms256m -Xmx1024m, j'ai alloué 1024 Mo max à java et 256 de RAM initialement.
Merci

La commande que tu écris, c'est bien pour allouer plus de mémoire, mais tu ne gagneras pas en perf, sauf si java est forcé de faire des pauses d'exécution pour appelé le garbage collector.
N'alloue pas plus de 512Mo pour ton programme, car il faut laisser de la place pour l'OS et la machine virtuelle java. Si tu alloues plus, tu va swapper comme un fou et perdre en vitesse d'exécution.
Si tu es juste en mémoire vive, achète-en.

Donc 512 c'est le maximum alloué ou la RAM alloué par défaut ?

Maximum, ça sert à rien d'allouer tout dès le départ.