Tu risques de trouver peu de choses en cherchant Intelligence Artificielle parce que ce n'en est pas vraiment.
Ce que tu cherches à faire, c'est implanter un comportement prédéfini dans ton monstre... Pour ce faire, rien de plus simple : si test(condition) alors réaction, (par exemple si un ennemi entre dans mon champs de vision, alors je l'attaque). Si tu souhaites affiner ce comportement, tu peux composer les conditions (en faire des plus complexes : si un ennemi entre dans mon champ de vision et est de niveau supérieur à 30, je fuis), ou bien les pondérer (plus il y a d'écart entre mon niveau et celui de l'ennemi, plus je vais utiliser des compétences de défense et de fuite).
L'IA au sens décision, te permettrait d'avantage d'élaborer une stratégie : quel est le meilleur coup ou quelle est la meilleure suite de coups à effectuer pour gagner/maximiser mes chances de gagner, mais c'est bien souvent inutile dans un jeu vidéo ou les monstres n'ont besoin que de réactions face à leur environnement/leurs propres stats.