Node.js remplace le php? Ca sert a faire plutot des applis ou site web ?
Node ne remplace pas PHP. Ce sont deux approches différentes. Ils ont chacun leurs avantages et inconvénients.
Avec Node, tu peux globalement tout faire : site/app web, app desktop (electron, nw.js), outils en ligne de commande, app mobile (phogap/cordova - mais c'est de la merde, par contre). Node.js est un peu plus complexe d'accès (si tu veux faire ça bien), puisque tu dois comprendre et bien appréhender la nature asynchrone de javascript, qui est la base de node, mais Node est plus réactif et se scale mieux.
PHP est plus facile d'accès, s'industrialise enfin dans le bon sens ces dernières années, et la version 7 est extrêmement prometteuse. Sans compter que son âge te permet de trouver un nombre incalculable de documentation, articles, tutos, etc... de bonnes (et aussi mauvaise) qualité.
Et angular js du coup ça vaut le coup ?
C'est sympa. Ça permet de faire de très chouettes trucs très rapidement, mais (y a toujours un mais), si tu fais pas très attention à ce que tu fais, tu te retrouves vite avec un truc énorme qui part dans tous les sens et dans lequel tu te perds en moins de deux. Faut être rigoureux et bien organisé.
J'ai aussi entendu parler de grunt/yeoman etc.. c'est quoi concrètement? 
Ce sont des outils en ligne de commande, développés en node, qui sont là pour te faciliter ta vie de dev (et pas seulement de dev node, hein, attention). Gulp (et Grunt), sont des "task-runner" : ils te permettent de configurer et d'automatiser des tâches répétitives pour ne pas avoir à les refaire sans cesse (compiler tes fichiers sass vers css, passer tes fichiers au linter, les envoyer sur ton ftp, etc... les possibilités sont infinies). Yeoman est un "initiateur de projet" : en une commande, il te prépare un "squelette" vide d'un projet, avec des tâches grunt ou gulp, les fichiers d'entrée, la configuration git, etc... pour que tu n'aies plus qu'à commencer à bosser.
C'est pratique... mais perso, je ne l'utilise pas : je travaille sur trop de trucs différents pour que ça soit utile de créer un squelette pour chaque type de projet. Mais si tu travailles régulièrement sur les mêmes projets (avec la même orga, les mêmes lib externe, etc... ça vaut la peine de s'y pencher).
- - -
Le web actuel, grâce à node mais pas que, regorge d'outils en tout genre, et rien ne t'oblige à tout utiliser. Ceci dit, se pencher sur Grunt (puis Gulp, mais Grunt est plus accessible pour débuter) me semble un impératif tant il te facilite la vie à l'usage.