dns : bind9
mail : sendmail, mais gaffe à bien le configurer si tu ne veux pas servir de relais aux spameurs (ce qui vaut aussi avec n'importe quel autre serveur mail d'ailleurs)
irc : unrealircd ou son descendant si tu veux un truc relativement simple à configurer et bien supporté
Point de vue sécurité du moment que chaque service utilise un démon différent et qu'ils sont mis à jour rapidement, tu ne risques pas grand chose en théorie. En pratique il pourrait être pertinent de les chrooter et de durcir ton kernel (grsecurity) et de mettre en place des politiques de droits (rsbac).