Voici ma soluce même si elle est sans dérivée ..
On peut voir que si tous les points de rectangle ne touche pas le diamètre MN ni l'arc (MN) alors on peut toujours construire un triangle qui a une surface supérieure à ce dernier .
De là on suppose qu'un point de ractangle touche l'arc et un autre touche le diamètre ( les 2 points qui forme un diamètre de rectangle )
Soit ABCD le triangle .
a,b c'est dimension .
Par symétrie on suppose que A touche l'arc , C touche le diamètre .
D'autre part on a :
Vec(AB.BC)=AB²-AB.BD.COSABD=BC.AC.COSACB-BC²=0
Donc :
BC=AC.COSACB
AB=BD.COSABD+AC.COSABD
S=AB.BC=AC²cosABD.cosACB=1/2AC²Cos(ABD-ACB)<=1/2AC²
Avec égalité si ABD=ACB=pi/4
Dans ce cas ABCD est carré .
Alors B apparient à l'arc (MN) et D au diamètre [MN]
Puis on prouve facilement que BOC=AOD=pi/4 ..
Et Max(S)=R²