N'importe quel cours type première année de prépa d'introduction à l'algèbre générale devrait être une bonne base. C'est vraiment quelque chose d'abordable à n'importe quel niveau, aucun prérequis, un collégien qui sait ne pas se brider peut y arriver.
Mais la théorie des groupes c'est un gros morceau, tu pourras sans problème appréhender les définitions qui gravitent autour, étudier quelques exemples classiques mais après pour pousser un peu plus loin c'est très délicat et surtout très vaste.
Le mieux reste une formation officielle type fac de maths mais là encore il faudra être patient, je ne connais pas les programmes mais en tout cas l'approfondissement c'est pas pendant les premières années.