Juste une remarque: en effet, il n'existe pas de théorème disant qu'une fonction continue non périodique admet une limite en l'infini... et il est très facile de trouver (ou de construire...) des exemples.
Sinon pour la démonstration de cette étape
Il a été prouvé que g est continue croissante, elle admet donc une limite L (qui peut être infinie) en + l'infini.
Supposons que L soit différent de + l'infini, on distingue 2 cas:
Si L est fini, alors la limite de hog en + l'infini est h(L) qui est fini, absurde car hog = I...
Si L = - l'infini, alors la limite de hog en +inf est égale à celle en -inf de h. Or g étant croissante, il en est de même de sa réciproque h, de sorte que h ne peut admettre une limite + l'infini quand x tend vers - l'infini, absurde à nouveau pour la même raison.
La démonstration de la limite en - l'infini se fait de façon analogue.
EDIT: je viens de remarquer une chose, la formule hog = I est fausse, du moins dans le cas général:
En effet soit un réel x: hog(x) = h(x+f(x)) = x + f(x) - f(x+f(x))
hog(x) n'est égal à x que si f est constante, ce qu'on cherche ici à prouver.
Par la même occasion, ça rend faux la démonstration du cas L = -inf, ou j'avais supposé (sans l'écrire) qu'on avait aussi goh = I (de la même manière...) pour dire que h est la réciproque de g.
Si la formule hog = I était juste (et alors goh = I le serait aussi par le même calcul...) on aurait que g et h ont la même monotonie... et la monotonie inverse vu que h = 2I - g... donc que h et g seraient constantes??