Salut,
Tu présentes plusieurs choses différentes.
OpenGL est une API graphique, c´est à dire que c´est une bibliotheque de fonctions qui vont te permettre de contrôler l´affichage graphique d´une machine en programmation.
3D Studio max est un environnement de modélisation 3D, c´est là dedans que tu crées les modèles 3D qui seront tes personnages, ton décor, tes objets.
3D RPG Editor est un enfironnement de développement de jeux rapide, qui permet de développer un jeu sans programmer.
Avant de te lancer sur la création d´un jeu sur PSP, je te conseille plutot d´apprendre à utiliser une ou un ensemble de ces technologies, de voir à quoi elles servent, comment elles sont utilisées et si elles peuvent l´être sur la plate forme de ton choix. Par exemple, je doute fortement qu´un jeu réalisé avec 3D RPG editor puisse tourner sur PSP.
Tu peux aller lire la FAQ pour te renseigner.