je sais pas khalil ce que tu veux avoir,mais je te propose une méthode très simple,pour résoudre le problème.
on considère l'application du plan D définie par f(M) =MA^2 +MB^2 +MC^2,et c'est facile d'obtenir f(M) en fonction de f(G),juste en faisant intervenir G dans l'équation,on aura donc f(M) = 3MG² + f(G),d'où AB² +BC² + CA² = 3f(G)= 3f(O) - 9 OG²,et donc la valeur maximal est obtenue en G=OMEGA=O (c'est ma notation).
sinon,si tu veux compliquer les choses,tu peux résoudre le problème analytiquement en choisissant un repère et tu exprimes en fonction des coordonnées,mais ça va être tres lourd!