Il a commencé à travailler avec la gymnaste américaine Mary Lou Retton en 1981. Trois ans plus tard, aux Jeux de Los Angeles en 1984, le jeune homme de 16 ans est devenu le premier Américain à remporter le titre olympique du concours multiple.
Karolyi, aux côtés de son épouse Marta, a contribué à façonner la gymnastique américaine au cours des décennies suivantes.
Karolyi a pris sa retraite d’entraîneur après les Jeux d’Atlanta en 1996, mais a été embauché comme coordinateur de l’équipe nationale américaine en 1999, passant un peu plus d’un an à ce poste.
Les Karolyi dirigeaient également un centre de formation au Texas, connu sous le nom de « Karolyi ranch ».
Il est devenu le centre de formation de l’équipe nationale féminine des États-Unis en 2001 lorsque Marta a été nommée coordinatrice de l’équipe nationale féminine.
Cependant, USA Gymnastics a interrompu l’utilisation du site en 2018 à la suite du scandale d’abus impliquant l’ancien médecin de l’équipe Larry Nassar.
Nassar a été condamné à entre 40 et 175 ans de prison après avoir plaidé coupable à 10 chefs d’accusation d’agression sexuelle contre des filles et des jeunes femmes, ainsi que de possession de pornographie juvénile.
Lors du scandale, plus d’une douzaine d’anciens gymnastes se sont manifestés, externe affirmant que les Karolyi faisaient partie d’un système qui créait une culture oppressive qui permettait au comportement de Nassar de se dérouler sans contrôle.
Certaines des victimes ont également affirmé avoir été maltraitées par Nassar au centre de formation du Texas.
Cependant, Karolyi et sa femme ont déclaré à CNN en 2018, externe qu’ils n’étaient pas au courant des crimes de Nassar et niaient tout acte répréhensible.
