À partir de l’été 2003, les attaques contre les forces de la coalition et les nouvelles institutions irakiennes se multiplient. L’insurrection n’est pas homogène : elle réunit d’anciens baasistes, des nationalistes sunnites, des tribus, des réseaux islamistes et des djihadistes étrangers. Abou Moussab al-Zarqaoui développe Al-Qaïda en Irak, organisation qui cherche délibérément à provoquer une guerre confessionnelle en attaquant les chiites et leurs lieux saints.
La violence change d’échelle après l’attentat contre le sanctuaire chiite d’al-Askari à Samarra le 22 février 2006. Des milices chiites, notamment liées à l’Armée du Mahdi, répondent aux attentats sunnites par des assassinats et des expulsions. Bagdad se segmente davantage selon des lignes communautaires. Les institutions nouvelles, issues des élections de 2005, fonctionnent mais sont fragilisées par les logiques partisanes, la corruption et la pénétration des milices.
En 2007, l’administration Bush déploie des renforts dans le cadre du « surge » et modifie sa stratégie de contre-insurrection. Parallèlement, le mouvement du Réveil sunnite retourne une partie des tribus contre Al-Qaïda en Irak. La violence recule fortement en 2008. Ce succès relatif reste cependant dépendant d’un compromis politique incomplet ; le retrait américain et les politiques sectaires ultérieures contribueront à créer les conditions dans lesquelles Daech pourra se développer. La montée d’Al-Qaïda en Irak sous Abou Moussab al-Zarqaoui puis l’explosion des violences confessionnelles en 2006 transforment progressivement l’insurrection en conflit beaucoup plus fragmenté.