Place-toi dans un repère centré en A, dirigé par AB et AC avec une normalisation de AB. Si on note k la longueur de AB (qui est aussi celle de AC) et xM/yM les coordonnées de M dans ce nouveau repère, on a alors :
AM² = 16/k² = xM² + yM²
BM² = 36/k² = (xM-1)² + yM²
CM² = 4/k² = xM² + (yM-1)²
En éliminant les xM et yM tu devrais aboutir à une équation du second degré en 1/k². Après je sais pas si ça aboutit mais c'est à explorer.