കളിക്കാരൻ എന്ന നിലയിൽ നിന്ന് വിരമിച്ച ശേഷം ഗ്വാർഡിയോള എഫ്. സി. ബാഴ്സലോണ ബി ടീമിന്റെ പരിശീലകനായി ചുമതലയേറ്റു. 2008 മെയ് 8ന് എഫ്. സി. ബാഴ്സലോണ പ്രസിഡന്റ് ജൊവാൻ ലാപോർട്ട പെപ് ഗ്വാർഡിയോള ഫ്രാങ്ക് റൈക്കാർഡിന്റെ പിൻഗാമിയായി ബാഴ്സലോണ മുൻനിര ടീമിന്റെ പരിശീലകനാകുമെന്ന് പ്രഖ്യാപിച്ചു. ജൂൺ എട്ടിന് ഗ്വാർഡിയോള കരാറിൽ ഒപ്പുവെച്ചു.[3] പരിശീലകനെന്ന നിലയിൽ ആദ്യത്തെ സീസണിൽ തന്നെ ലാ ലിഗാ, കോപ ഡെൽ റേ, ചാമ്പ്യൻസ് ലീഗ് എന്നിവ നേടിക്കൊടുത്ത്, ഒരു ട്രെബിൾ സ്വന്തമാക്കുന്ന ആദ്യ സ്പാനിഷ് ക്ലബ്ബെന്ന നിലയിലേക്ക് ബാഴ്സയെ പെപ് ഗ്വാർഡിയോള ഉയർത്തി. ഇതോടെ യുവേഫ ചാമ്പ്യൻസ് ലീഗ് വിജയിക്കുന്ന ഏറ്റവും പ്രായം കുറഞ്ഞ പരിശീലകനെന്ന ബഹുമതി ഗ്വാർഡിയോള നേടി. തുടർന്നുള്ള സീസണിൽ സൂപ്പർ കോപ ഡി എസ്പാന, യുവേഫ സൂപ്പർ കപ്പ്, ഫിഫ ക്ലബ്ബ് വേൾഡ് കപ്പ് എന്നിവയും നേടി, ഒരു സെക്സ്റ്റപ്പിൾ തികക്കുന്ന ലോകത്തെ ആദ്യ ക്ലബ്ബായി ബാഴ്സ മാറി.
2011 സെപ്റ്റംബർ 8ന് കറ്റാലൻ പാർലമെന്റ് ഗ്വാർഡിയോളക്ക് പരമോന്നത ബഹുമതിയായ സ്വർണ്ണമെഡൽ സമ്മാനിച്ചു.[4] 2012 ജനുവരിയിൽ 42% വോട്ടുകൾ നേടി പുരുഷന്മാരുടെ ഫുട്ബോൾ ടീമിനുള്ള ഫിഫ വേൾഡ് കോച്ച് ഓഫ് ദ ഇയർ അവാർഡ് സ്വന്തമാക്കി. 16% വോട്ട് നേടിയ മാഞ്ചസ്റ്റർ കോച്ച് അലെക്സ് ഫെർഗൂസനെയും 12% വോട്ട് നേടിയ റയൽ മാഡ്രിഡ് കോച്ച് ജോസ് മൗറീഞ്യോയെയും പിന്തള്ളിയായിരുന്നു പെപിന്റ ഈ നേട്ടം.[5] 2012 ജൂൺ 30ന് പെപ് ഗ്വാർഡിയോള ബാഴ്സലോണയുടെ പരിശീലക സ്ഥാനത്ത് നിന്ന് വിരമിച്ചു. നാല് വർഷം കൊണ്ട് 14 കിരീടങ്ങൾ നേടിക്കൊടുത്ത ശേഷമായിരുന്നു ഈ വിരമിക്കൽ. അപ്പോഴത്തെ ബി ടീം പരിശീലകനായ ടിറ്റോ വിലാനോവയാണ് നിലവിലെ ബാഴ്സാ പരിശീലകൻ.
