Personnellement, je débute aussi:
On m'a conseillé de m'ouvrir à l'algorithmique et j'ai trouvé ce site, plutôt sympa pour débuter: http://www.pise.info/algo/codage.htm
Pour ce qui est du codage java: Je lis ce bouquin:
http://www.editions-eyrolles.com/Livre/9782212123760/le-livre-de-java-premier-langage
Les premiers chapitres sont bien réalisés pour apprendre les bases.
Une chose que j'aime bien faire du coup, c'est réaliser les exercices du site d'algorithmique, et une fois l'exercice réalisé, je le code en java. Jusque-là, ça marche bien
C'est assez amusant au final.