退役后，瓜迪奥拉受邀担任巴萨B队主教练，带领巴萨B队升入西丙。2008年6月5日，拉波尔塔与执教时刻仅为1年的瓜迪奥拉正式签约，接替里杰卡尔德成为巴萨一线队主教练。因职业生涯晚期经历了许多史无前例的苦难，瓜迪奥拉有着异于常人的沉稳老到，可以以主帅身份带领巴萨攀登高峰，则恰恰由于他已具有很多非凡阅历。

瓜迪奥拉接手的这支巴萨，是“梦三期”，人员装备上，瓜迪奥拉承继了里杰卡尔德打下的根基，普约尔、皮克、阿尔维斯、布斯克茨、哈维、伊涅斯塔、亨利、埃托奥、梅西等人构成了主力阵容；战术上，瓜迪奥拉也根本沿袭了里杰卡尔德后期的风格，还给这支巴萨带来了非常先进的tiki-taka理念，就地反抢等战术合作。其时的巴萨，每一次传球都有很强的目的性，不只是为了逃避对方的逼抢，更是为了可以更好的发动下一次进攻，这些都让那支巴萨变得无人能挡。

2008/09赛季是瓜迪奥拉执教的第一个赛季，他率队成就西甲、国王杯和欧冠的“三冠王”。2009/10赛季，他又率队攫取西班牙超级杯冠军、欧超冠军以及世俱杯，完成世界足坛绝无仅有的“六冠王”伟业。2010/2011赛季率队接连第三次攫取西甲冠军，同时夺得欧冠冠军、西班牙超级杯冠军、欧洲超级杯冠军和俱乐部世界杯冠军，完成了“五冠王”。在2011/12赛季，由于瓜迪奥拉失去了对更衣室的操控，与高层关系不佳和球员内斗等原因，巴塞罗那在一周内别离在联赛负于皇马及在欧冠被切尔西筛选，瓜迪奥拉在2012年4月27日宣告在赛季完毕后离任，理由是身体透支的太凶猛，需求歇息。瓜迪奥拉执教巴萨四个赛季，247场比赛带领球队取得14个冠军。第一次执教豪门球队，碰到挫折，要怎么面对，怎么处理，不排除瓜迪奥拉有激动心思。

2013年1月16日，拜仁将球队的教鞭交给瓜迪奥拉，两边签约3年，瓜迪奥拉年薪世界第二为1600万欧元。值得一提的是，其时追求瓜迪奥拉的还有曼城。执教首赛季，拜仁破纪录在联赛完毕前七轮成功卫冕德甲冠军。惋惜拜仁在欧洲冠军联赛四强遭遇皇马，首回合，拜仁作客伯纳乌球场以0-1落败，次回合主场以0-4惨负皇马，创下瓜迪奥拉执教以来最大失利。赛后，瓜迪奥拉的打法受到德国媒体狠批，以为具有诺伊尔、博阿滕、拉姆、蒂亚戈、穆勒、格策这样的球员装备，瓜帅一味用控球打法，才会完败于皇马的快速反击战术。2014/2015赛季，拜仁再度踢进欧冠四强赛，但不幸被巴塞罗那筛选。2015/16赛季，拜仁慕尼黑再次停步于欧冠四强，被马德里竞技筛选，拜仁在欧冠接连三年遭到西甲三强的痛击，除了曼朱基奇之外，拜仁队中也存在“反瓜联盟”，穆勒、里贝里、小猪和格策等都表达过对瓜迪奥拉的不满。诚然，拜仁不是巴萨，瓜迪奥拉虽然有才能但说话重量并不能和巴萨时期同日而语，瓜迪奥拉以国内双冠王，联赛三连冠，三季共6座冠军奖杯的成果完毕任期，曲折曼城，经过两度续约，执教至今。

2016/17赛季，瓜迪奥拉与曼城签订了一份为期三年的合同，合约期至2019年夏天，英媒泄漏瓜迪奥拉的年薪将为1500万英镑。瓜迪奥拉带领曼城豪取局面六连胜，但随后球队状况呈现崎岖，最终曼城全赛季取得23胜9平6负积78分的成果位列联赛第三；在欧冠联赛八分之一决赛决赛中，曼城两回合6-6战平摩纳哥，但因客场进球少遭到筛选，这也是瓜迪奥拉执教生涯初次遭遇无冠赛季。2017/18赛季，瓜迪奥拉开启“买买买”模式，沃克、门迪、达尼洛晋级了后防装备，曼城英超登顶并成为英超历史上唯一支达到100分积分的球队，但是欧冠八强赛上被利物浦别离以3-0和1-2筛选。在2018/2019赛季，瓜迪奥拉再次带领曼城夺英超冠军，成为首支英格兰的“本乡三冠王”球队。不过在欧战，曼城被热刺以4-4逼平，因作客进球不及对手而停步八强。2019/20赛季，曼城丢掉英超冠军，欧冠以1-3负于里昂，接连三年停步八强。2020/21赛季，曼城重夺英超冠军，欧冠也历史性打进决赛，但是0-1不敌切尔西丢掉了冠军。

无论是在巴萨还是曼城，都有球星在质疑瓜迪奥拉。亚亚-图雷尽职尽责，被以为是世界上最好的后腰之一，但不得不说的是，瓜迪奥拉是他的克星，两次离开球队都是被瓜迪奥拉赶走。亚亚-图雷一度质疑瓜迪奥拉种族歧视，后来加盟了青岛黄海踢中甲，并协助球队冲超，图雷说：“我国球迷最让人称道的当地在于他们懂得尊重球员，当我我在球场上踢球时，并不会有球迷由于我是黑人而嘘我或者不尊重我，这比谁都不尊重的欧洲球迷要好多了！”