y'a un truc qui parait sur, c'est qu'il faut se débarrasser la condition "a,b,c angles d'un triangle" en exprimant c en fonction de a et b (équivalent à a+b+c=pi avec a et b dans 0;pi ouvert).
après, tu ne précises pas ton niveau d'étude, mais je vois mal comment des formules de trigo de lycée pourrait venir à bout de ton inégalité (qui est non triviale car on ne peut se contenter de majorer successivement chacun des 3 facteurs).
par contre, ça a une tête à se faire très facilement avec une recherche d'extrema d'une fonction de deux variables a et b (post bac), ou à coup de lagrangien (optimisation d'une fonction de trois variables sous contrainte d'égalité, post bac encore un peu plus loin).