La RAM sert a stocker des instruction,les calculs de deplacement,les calculs en attente du processeur,certaines textures ( si la carte video ne peut pas tous mettre en memoire video dans ce cas,la machine utilise une partie de la memoire vive c´est ce qu´on peut regler a partir du BIOS a la ligne " AGP Aperture Size),etc.
Concretement,tu n´a pas plus d´images par seconde en ayant beaucoup de memoire vive mais il en faut suffisement pour ne pas faire appel au disque dur pour stocker des informations ( quand la memoire est pratiquement utilisé a fond,la machine stocke le " surplus" sur le disque dur dans une partie qu´on appel le SWAP ou memoire virtuelle).
Plus tu a de memoire,moins ta machine accede au SWAP ( la partie la plus lente d´un PC etant le disque dur,le jeu saccade le temps de stocker en memoire ce dont il a besoin) mais au dessus d´une certaine quantité de memoire elle n´est utile que pour accelerer le temps de chargement du jeu/niveau en cours.
Dejà,avec 512 mo de RAM celà limite l´utilisation du SWAP est la machine peut travaillé confortablement donc si tu es un peu a court au niveau budget,contente-toi de 512 Mo.
Il faut aussi savoir que plus tu monte en resolution,plus la machine a besoin de memoire pour stocker donc une grosse carte video et trop peu de memoire t´empeche de jouer en haute resolution ( plus de 1024x768).
C´est souvent que l´ont voit des machine heterogene avec une grosse carte video et un CPU moyen ou bien l´inverse ( generallement les PC de grande surface) avec un CPU dementiel mais une carte video toute pourrite et forcement,on ne peut pas exploiter convenablement un composant de grande qualité si le reste de la config ne suis pas.
C´est un peu comme si tu montais un moteur de Porsche dans une Citroën 2Cv,c´est inexploitable.
Bref,il vaut mieux avoir une configuration homogene pour exploiter le potentiel du materiel.
Dans ton cas,je pense que 512 Mo de memoire sont suffisant et au niveau de la carte video,c´est selon ton budget mais ça ne sert pas a grand chose de changer une GeforceFX 5700 par une Radeon 9600 XT a mon avis,tu ne verra pas suffisement de difference pour que le surcout soit valable.
Pour ta derniere question,les artefacts sont des " bugs" visuel qui sont generé par une trop haute frequence ou une surchauffe d´une partie de la carte video.
Par exemple,les points blancs,les clignotements de textures,les " cône" de couleurs qui apparaissent sur les scources de lumiere(dans le cas de probleme avec les Pixel Shader) sont des artefacts.