1958-ban kezdte a labdarúgást az FC Pelkum csapatában. 1971 és 1975 között az alsóbb osztályú Germania Hamm, Hammer SpVg és SC Westtünnen labdarúgója volt. Hrubesch a tipikus későn érő játékos volt. Már 24 éves volt, amikor a Rot-Weiß Essen szerződtette. Itt három idényen át játszott és annyira meggyőző volt a játéka, hogy a Hamburger SV figyelmét is felkeltette és 1978-ban megvásárolta a HSV. 1978 és 1983 között három bajnok címet és egy BEK-győzelmet szerzett a csapattal. Az 1981–82-es idényben ő lett Bundesliga gólkirálya. 1983 és 1985 között a belga Standard Liège, az 1985–86-os idényben a Borussia Dortmund csatára volt. Az aktív labdarúgást 1986-ban 35 évesen hagyta abba.
1980 és 1982 között 21 alkalommal szerepelt a nyugatnémet válogatottban és hat gólt szerzett. Tagja volt 1980-as Európa-bajnok csapatnak. Az olaszországi tornára az utolsó pillanatban nevezték a lábát törő Klaus Fischer helyett. Hrubesch a döntőben ötödször szerepelt csak a nyugatnémet válogatottban és a 89. percben az ő második gólja döntötte el a találkozót és kupa sorsát. 1982-ben a spanyolországi világbajnokságon ezüstérmet szerzett a válogatottal.[1]
2020 júliusában a Hamburg labdarúgócsapatának tehetségfejlesztésért felelős vezetője lett.[2] 2021. május 3-án az első csapat edzőjének nevezték ki a szezon végéig.[3]
