Le Java à bien sur son propre moteur 3D, c´est Java 3D mais celui-ci n´est pas intégré directement dans la JDK, il s´agit d´un package optionel à télécharger et insérer dans le classpath.
C´est vrai que c´est plus simple de mettre un jar dans un dossier que d´insérer OpenGL dans un projet C++, mais maintenant ( comme dans dev C++), les IDE peuvent déjà créer des projets intégrant directement OpenGL avec un petit exemple qui permet de ne pas avoir à ce soucier des endroits à insérer les libs.
Enfin, j´ai essayé de développer sur Java3D l´année dernière et j´ai malgré tout préféré OpenGL, celui-ci étant plus simple je trouve, enfin mon avis est totalement subjectif.
Dernière chose :
Java n´est pas un programme, c´est un langage de programmation : http://java.sun.com