C'est une question d’étymologie principalement mais tu peux les reconnaitre facilement "à l'oreille/avec l'habitude".
Si tu apprends les kanjis un peu plus en profondeur, tu verras qu'il y en a qui ont 2 prononciations, la prononciation "on" et la prononciation "kun" :
http://fr.wikipedia.org/wiki/On%27yomi
http://fr.wikipedia.org/wiki/Kun%27yomi
Par exemple, avec des kanjis simples.
http://ja.wikipedia.org/wiki/%E9%A6%99%E6%B0%B4
Le premier kanji quand il est écrit seul se prononce à la japonaise : Kaori => l'odeur
Le deuxième kanji quand il est écrit seul se prononce à la japonaise : Mizu => l'eau
Là, dans le mot "parfum", ils sont combinés et donc se lisent "à la sino-japonaise" : Kou et Sui. Le mot parfum se lit donc "Kousui" et non "Kaorimizu".
Ce que j'explique là est loin d'être une science exacte, il existe des exceptions à cette règle que seule la pratique peut t'apprendre à discerner.
Tous les mots de 2 kanji ou plus ne se prononcent pas "à la chinoise" et certains kanji n'ont soit qu'une ou l'autre des prononciations.
Bref, c'est un peu galère au début au début 