La condition que a, b et c soient les côtés d'un triangle est équivalente à l'existence de réels positifs x, y et z tels que :
a = x + y
b = y + z
c = x + z
En additionnant les lignes on obtient que x + y + z = p, qui élevé au carré donne p² = x² + y² + z² + 2(xy+yz+zx)
De plus la contrainte ab + bc + ca = 12 se traduit en 12 = x² + y² + z² + 3 (xy + yz + zx) (*)
On combinant les deux lignes précédentes, on trouve que p² = 12 - (xy + yz +zx) et donc p est maximal lorsque xy + yz+zx est minimal et vice-versa.
xy + yz + zx est minimal lorsqu'il vaut 0, à permutation près des lettre cela n'est possible que lorsque x=y=0 et alors pour que (*) soit vérifiée on doit avoir z = sqrt(12). Ceci fournit la solution de périmètre maximal : a = 0, b = c = sqrt(12)
xy + yz + zx est maximal lorsque x = y = z (on le voit en développant (x - y)² + (x - z)² + (y-z)²). Alors pour que (*) soit vérifiée on doit avoir x = y = z = 1. Ceci fournit la solution de périmètre minimal : a = b = c = 2