En tant que batteur, je peux te conseiller la même expérience que moi.
Soit tu prends une batterie d'occas' chez un particulier qui te semble assez basique et pas trop chère. Soit t'en prends une neuve comme moi (Thomann- Millenium à 200€) que j'ai depuis 7 ans. 
Si tu peux pas faire de bruit, et dois donc t'acheter une electronique, prends d'occas', sinon t'aura de la bonne grosse bouse bien dégueulasse qui te dégoûtera de la batterie.
Ensuite, pour ce qui est de la pratique pure, si tu te sens d'improviser comme un débile, tu peux le faire. Mais je serai toi, je commencerai en même temps à apprendre à lire des partition rythmiques.
Par là, j'entends pas un truc avec 15 milliards de notes, mais quelques notes par mesure, et apprendre à les jouer en boucle.
Comme ça, tu comprendra comment est fait un rythme, une musique globalement.
Ensuite, si tu sens l'âme d'un compositeur, tu fais tes propres rythmes, avec les codes que t'aura appris. L'avantage, avec du théorique comme ça, c'est que tu peux acquérir des techniques rythmiques qui te seraient pas venues naturellement.
Ensuite la partie que je préfère : l'impro. Tu peux jouer sur des musiques (casque powa), et essaie de reproduire ou jouer par dessus. Comme ça tu va encore acquérir de nouvelles techniques et pouvoir élargir ton éventail technique pour t'amuser à impro comme un fou.
Pour résumer : Si tu veux du théorique : apprends les mesures à déchiffrer basiquement et jouer/écrire.
Sinon t'y va au feeling, tu reproduis des rythmes à l'oreille, et tu impro si tu sens que tu peux t'égarer dans le rythme sur ta batterie.
Y'a quelques bons tutos de techniques de base sur Youtube, n'hésite pas à apprendre là. 