Une étoile est bien définie comme étant un objet (une boule de plasme) suffisamment grand et massif pour avoir des réactions nucléaires dans son coeur.
Les naines brunes ne répondent pas parfaitement à cette définition à cause de leur masse. Mais cela dit, elles ont des températures de plusieurs milliers de degrés Kelvin quand même.
Et la masse n'est pas le seul critère qui sert à distinguer une étoile d'une planète (ou exoplanète hors du système solaire).