Kaun incomincia la carriera di cestista con la squadra dell'Università di Kansas, i Kansas Jayhawks. Nei quattro anni ai Jayhawks vince il titolo NCAA 2008. Dopo l'esperienza al college, con cifre eccellenti per i pochi minuti che gioca (poco più di 17 minuti a partita), viene ingaggiato da una delle migliori squadre del suo paese, il CSKA Mosca.[2]
Al draft NBA 2008 è stato selezionato come 26ª scelta del secondo giro (56ª assoluta) dai Seattle SuperSonics. I suoi diritti sono successivamente stati girati ai Cleveland Cavaliers; tuttavia Kaun è rimasto a giocare in Europa.
L'8 giugno 2015, a soli 30 anni, annuncia il ritiro[3], ma pochi giorni dopo smentisce il ritiro, affermando di non voler più giocare in Europa sperando in un contratto da parte dei Cleveland Cavaliers, o comunque di una squadra NBA[4]. Firma successivamente un contratto di due anni proprio con i Cavs. Dopo aver vinto il titolo NBA, il 23 luglio 2016 annuncia il ritiro ufficiale a causa di persistenti problemi alle caviglie.[5]