Les premiers travaux de Gilbert Mahoux portent sur des questions axiomatiques en théorie des particules élémentaires. Il obtint son doctorat d’état en Sciences Physiques de l’Université de Paris sous la direction d’André Martin en 1969, avec pour sujet l’ « Extension des propriétés d’analyticité axiomatiques pour des particules de spins quelconques, et relations de superconvergence ».
Inspiré par les travaux, entre autres, de Jacques des Cloizeaux, Gilbert Mahoux, en collaboration étroite avec Mabrouk Benhamou, produit une série de travaux très importants sur le groupe de renormalisation appliqué à la théorie des polymères. Ils montrent que la méthode dite de « renormalisation directe » du modèle d'Edwards, due à J. des Cloizeaux, est mathématiquement équivalente à celle de la renormalisation de la théorie des champs, dans la limite d'un nombre nul de composantes du champ, limite due à Pierre-Gilles de Gennes. Pour cela, ils utilisent la renormalisation dimensionnelle minimale de 't Hooft-Veltman, qui a la propriété de commuter avec la transformation de Laplace-de Gennes.
Dans lecadre de la théorie des matrices aléatoires, prolongeant un article séminal de Madan Lal Mehta sur une méthode d’intégration sur des matrices, Gilbert Mahoux et M. L. Mehta produisent une série de trois articles marquants sur ce sujet, qui trouvent de nombreuses applications, par exemple en théorie quantique des champs. Suite à un travail de Bertrand Eynard et M.L. Mehta sur les fonctions de corrélations de valeurs propres pour des matrices hermitiennes aléatoires couplées en chaînes, Gilbert Mahoux, avec M. L. Mehta et Jean-Marie Normand, calculent la fonction d’espacement, qui s’exprime, comme dans le cas à une matrice, en fonction d’un déterminant de Fredholm. Les mêmes auteurs ont exprimé une intégrale sur les « variables angulaires » de la quantité exp [tr (A B)], pour deux matrices A et B couplées n x n réelles symétriques, complexes hermitiennes ou symplectiques quaternioniques, en termes des valeurs propres et des fonctions propres d'un hamiltonien relié à celui de Calogero. Le calcul a pu être mené jusqu'au bout pour n=2 et ramené à une seule somme infinie pour n=3. Ces résultats généralisent une formule extrêmement utile et uniquement connue jusqu'alors pour les matrices hermitiennes (formule dite d'Itzykson-Zuber). Gilbert Mahoux aborda des sujets d’une grande variété, allant des inégalités de Bell à des expériences EPR sur deux Qbits.
Les principaux collaborateurs de Gilbert Mahoux furent A. Martin, Guy Auberson, David Atkinson, M. L. Mehta, M. Benhamou.
Gilbert Mahoux avait également des talents de pédagogue. Citons ses cours dans le Service de Physique Théorique sur le groupe de Lorentz-Poincaré et sur la théorie des champs. Il enseigna également à l’Université de Rabat (Maroc).
Physicien de talent, Gilbert était, peut-être au fond avant tout, un passionné des sciences que l’on qualifiait alors de naturelles. Son éclectisme et sa curiosité couvraient des questions de taxinomie en botanique comme en entomologie, et surtout d’astronomie et de vulcanologie. Ces dernières passions l’ont souvent conduit à se rendre sur des terrains fort lointains pour assister à une éclipse totale ou une éruption volcanique. Aventurier, il aimait découvrir la géographie et la culture de nouveaux pays, des neiges du Kilimandjaro à l’Iran, allant jusqu’à apprendre le Persan. Gilbert Mahoux abordait tous ces différents domaines avec une même pensée rigoureuse et structurée, souvent au sein de sociétés savantes spécialisées. Les années passant, les voyages cessèrent. Mais, conservant les mêmes vivacité d’esprit et capacité à s’enthousiasmer, Gilbert Mahoux, toujours passionné de belles mathématiques, venait d’achever un travail original sur la géométrie du triangle, démontrant l’existence de six points particuliers par chacun desquels passent quatre droites particulières. Un travail dont l'on souhaite aux lycéens actuels de pouvoir apprécier la pure beauté cartésienne.
Nous garderons le souvenir d’un ami, amoureux de sciences, toujours rigoureux et attaché à sa liberté.
