Chovanec was een middenvelder en libero. Hij begon zijn carrière bij Sparta Praag. In 1979 tekende hij een contract bij TJ Rudá Hvězda Cheb (Rode Ster Cheb), waarna Chovanec na twee jaar weer terugkeerde naar Sparta Praag. Na zeven seizoen vertrok de toenmalige Tsjecho-Slowaak naar het buitenland, naar PSV. Na drie jaar PSV, waarmee hij 2x landskampioen werd en 2x de KNVB beker won, keerde hij in 1991 terug naar zijn oude liefde Sparta Praag, waar hij in 1995 zijn carrière afsloot.
In mei 2008 ontslaat hij coach Michal Bílek bij Sparta Praag en neemt vervolgens, als voorzitter, zelf de taken waar zodat hij een wel heel ongebruikelijk dubbelfunctie heeft, voorzitter en trainer.