Nel 2005-2006, grazie al secondo posto nella seconda serie nazionale, ottenne la promozione nella massima divisione saudita, divenendo il primo club della regione di Sudair a raggiungere il massimo livello del campionato nazionale. La retrocessione fu immediata, ma una nuova promozione in massima serie fu ottenuta al termine della stagione 2009-2010, in cui la squadra si aggiudicò il campionato di seconda serie. Nell'annata 2017-2018 la squadra raggiunse la finale della Coppa del Re dei Campioni, persa contro l'Al-Ittihād per 1-3. Nel 2020-2021 si aggiudicò il trofeo battendo per 3-2 l'Al-Taawoun grazie alla tripletta di Júlio Tavares e si qualificò, così, all'AFC Champions League. Sconfitta dall'Al-Hilal ai tiri di rigore (3-4 dopo il 2-2 dei tempi supplementari) nella Supercoppa saudita 2021, la formazione di Harmah esordì in AFC Champions League battendo per 2-1 i qatarioti dell'Al-Sadd, per poi vincere il girone e approdare agli ottavi di finale del torneo. In campionato, però, la squadra ebbe difficoltà, tanto che, dopo dodici stagioni consecutive nella massima serie, retrocesse al termine dell'annata 2021-2022.