ePSXe ?
tu vas dans "config" > "video" > "configure"
ensuite, dans Fullscreen mode tu as la desktop resolution, qui correspond à la réso plein écran et la window size, qui correspond à la resolution en mode fenêtré.
Par contre, je vois pas bien le problème, tu as un full HD et tu veux jouer en 300x200 ?