Je vous propose ici, une méthode classique pour résoudre ce type de problème : elle se base sur la descente infinie, c'est à dire on commence par un couple qui vérifie une condition donnée ( toujours c'est un minimum d'une quantité bien choisie) et on doit chercher une contradiction. La difficulté est de bien choisir la quantité qui caractérise notre solution.
Dans ce problème, je suppose qu'il y a des solutions telles que a#b alors je pose (X,Y) un couple qui minimise la somme X+Y ( on peut supposer que X>Y quitte à prendre X<Y).
Comme vous l avez démontré le problème est équivalent à
4ab-1 divise (a-b)²
on pose (X-Y)²/(4XY-1) = k
c est une équation du deuxième degré en X qui admet une deuxiéme solution qu'on note Z
on a : XZ = Y²+k ( le produit des racines )
donc Z = (Y²+k)/X
comme (Z,Y) est une solution on a : Z+Y>X+Y d ou :
Z>X c est à dire que Y²+k>X²
d ou k>X²-Y² or k = (X-Y)²/(4XY-1)
d ou (X-Y)²/(4XY-1)>X²-Y²
donc X-Y>(X+Y)(4XY-1) contradiction !
donc on peut pas avoir X#Y !
NB: pour vous entrainez, essayez de faire l'arithmétique de IMO 2003, c'est le même principe.