Da calciatore si mise in evidenza con la maglia del Parma, a Vicenza diventando l’eroe della promozione in serie B degli emiliani, facendosi notare dal barone Niels Liedholm che lo volle con sè alla Roma. Esordì in serie A con la maglia giallorossa il 16 settembre del 1979.
Resterà a Roma otto anni vincendo uno storico scudetto prima di passare al Milan, dove incontra un altro profeta del calcio italiano, Arrigo Sacchi, che a fine carriera lo vorrà come suo vice, sulla panchina dell’Italia ai mondiali americani del ’94.
La sua gavetta da allenatore comincia nella provincia felice, prima a Reggio Emilia e poi a Parma. Nel 1999 arriva la prima grande occasione: la Juventus lo sceglie per sostituire Marcello Lippi. Ancelotti resterà sulla panchina della Vecchia Signora per due anni prima di andare al Milan dove sostituisce Fatih Terim a campionato in corso, agguantando l’ultimo posto per la Champions.
L’anno seguente è leggendario, sfiora il triplete vincendo una storica finale tutta italiana all’Old Trafford di Manchester, proprio contro la Juve, e la Coppa Italia, mentre chiude al terzo posto in campionato. Dopo qualche giro a vuoto vince nuovamente la Champions con il Milan nel 2007.
Nel 2009 firma con il rampante Chelsea dove comincia al meglio infilando una doppietta Premier League – Fa Cup, ma anche qui non scoppia l’amore con Abramovich che, dopo due anni, decide di esonerare il tecnico. Poco male, ad accogliere Ancelotti c’è il Paris Saint Germain che lo fa diventare nell’annata 2011-2012 l’allenatore più pagato al mondo calciomercato . Al secondo riporta Parigi in vetta alla Ligue 1: questo è il terzo titolo nazionale vinto con tre club differenti, record che gli apre le porte di uno dei club più prestigiosi del mondo, il Real Madrid.
Con i blancos, nell’estate del 2013, firma un contratto di tre anni. Batte subito gli storici rivale del Barcellona nella finale della Coppa del Re e raggiunge la sua quarta finale di Champions League, come Miguel Muñoz, Marcello Lippi e Alex Ferguson.
Il 24 maggio del 2014 entra nella storia del calcio, conquistando la sua terza Champions, eguagliando il record stabilito da Bob Paisley, consegnando al club di Madrid la sua storica Décima. Grazie a questo trionfo Carletto profilo/facebook diventa il quinto allenatore ad aver vinto la Coppa dalle grandi orecchie, prima di lui ci erano riusciti solo Ernst Happel, Ottmar Hitzfeld, José Mourinho e Jupp Heynckes. Nel 2014, per motivi di salute rifiuta la chiamata del Milan, e si prende un anno sabbatico prima di accettare, il 19 dicembre 2015, la panchina del Bayer Monaco dove andrà a sostituire Guardiola.