Enligt en parlamentsledamot från provinsen har talibanerna nått fram till ett distrikt endast elva kilometer från Kabul.
Talibanerna har också erövrat provinsen Paktika vid den pakistanska gränsen.
Talibanerna håller nu på att omringa Kabul och enligt amerikanska underrättelsekällor kan de komma att inta staden inom tre månader.
Afghanistans president Ashraf Ghani höll i dag ett tv-tal till nationen i ett försök att samla sina trupper.
– Jag ska göra mitt bästa för att förhindra att detta påtvingade krig mot det afghanska folket leder till ytterligare dödande av oskyldiga människor och förlust av era prestationer under de senaste 20 åren.
Presidenten sa också att samtal pågår med olika lokala ledare och internationella partners i ett försök att få ett slut på kriget.
Samtidigt håller många västerländska ambassader på att utrymmas i Kabul. Både amerikanska och brittiska trupper har anlänt till staden för att säkerställa att diplomater och afghanska medarbetare tryggt ska kunna lämna landet.
Den viktiga nordliga staden Mazar-i-Sharif har fallit
Samtidigt rapporteras det om att Afghanistans fjärde största stad Mazar-i-Sharif i den norra delen av landet har tagits över av talibanerna som firat sin seger genom att köra igenom staden med bilar och motorcyklar och triumferande skjuta i luften.
Den viktiga staden var den afghanska regeringens sista fäste i norr. Talibanernas övertagande innebär att de har kontroll över landets nordliga delar – en stor förlust för regeringsstyrkorna.
De afghanska regeringsstyrkorna har flytt över gränsen till Uzbekistan, uppger provinskällor. Enligt Afzal Hadid, som leder provinsrådet i Balkh, verkar det som om staden föll utan strider.
– Soldaterna lämnade efter sig sin utrustning och begav sig mot gränsövergången. Alla säkerhetsstyrkor har lämnat Mazars centrum. Bara sporadiska strider har pågått i ett område utanför centrum.
Då regeringsstyrkorna gav upp ledde det till att milisgrupper som stöder regeringen också förlorade hoppet och gav sig. De tidigare krigsherrarna Abdul Rashid Dostum och Ata Mohammad Noor som leder tusentals krigare uppges nu ha flytt från provinsen till okänd ort.
Talibanerna avancerar också i öster
Enligt afghanska källor tog talibanerna i kväll över kontrollen också i den östliga provinsen Kunar utan några strider.
Kunar gränsar till Pakistan.
Nu kontrollerar talibanerna cirka 23 av Afghanistans 34 provinser.
USA utökar närvaron i Afghanistan, Biden varnar talibanerna
USA:s president Joe Biden har beslutat att USA utökar den mängd soldater som ska sändas till Afghanistan för att hjälpa till med evakueringen av ambassadpersonal och civila afghaner.
Biden varnar också talibanerna för att försöka hindra USA att utföra sitt uppdraget.
Enligt Biden kommer ungefär 5 000 amerikanska soldater (enligt ett tidigare beslut 3 000) att sändas iväg för att organisera evakueringarna och avsluta den 20 år långa amerikanska närvaron i Afghanistan.
Biden upprepar än en gång att det beslut som har fattats om att USA avslutar sin militärinsats i Afghanistan håller:
"Jag var den fjärde presidenten som ledde den amerikanska truppnärvaron i Afghanistan – två republikaner och två demokrater. Jag vill inte och kommer inte att föra över det här kriget till en femte."
Källor: AP, AFP, Reuters, Al Jazeera