Fais attention à l'intervalle, il y a une faute.
Solution:
Supposer qu'il existe y de [a,b] tel que f(x)=y donc f(x).fof(x)=yf(y)=x² et x>0 car dans [a,b]
----> f surjective.
Supposer que pour tout x,y de [a,b] f(x)=f(y) celui là implique fof(x)=fof(y) donc f(x).fof(x)=f(y).fof(y) donc x=y.
-----> f bijective.
Soit p(x) l'assertion f(x).f(f(x))=x² alors p(f^-1(x)): x.f(x)=(f^-1(x))²>0 (A) avec f(x)>0.
Maintenant on a x.f(x).f(f(x)=x^3 et x.f(x).f(f(x))=fof(x).(f^-1(x))² alors H(x): f(f(x)).(f^-1(x))²=x^3.
H(f(x)): fofof(x).x²=f(x)^3 et d'aprés l'énoncé f(f(x))=x²/f(x) car x,f(x)>0 alors x².f(x²/f(x))=f(x)^3
=> f(x)².f(f(x)²/fof(x))=fof(x)^3
Et alors f(f(x)²/fof(x))=x^6/f(x)^5 .. on a aussi x².f(x²/f(x))=f(x)^3 alors f(x²/f(x))=(f(x)²).(f(x)/x²)
=f(x)²/fof(x)=f(x)^3/x² (C)
Posons y=x/f(x) alors (C) devient yf(xy)=f(x) et par (A) P(xy): x*yf(xy)=(f^-1(xy))² donc x*f(x)=(f^-1(xy))² et alors (f^-1(xy))²=(f^-1(x))² => xy=x donc y=1 enfin f(x)=x pour tout x de [a,b] compris entre a et b.
Réciproquement, f(x)=x répond aux données.