Inizia la sua esperienza politica nel 2004 quando il sindaco di Bari Michele Emiliano lo nomina assessore alla mobilità e al traffico nella sua prima giunta, in qualità di tecnico esperto esterno.
Durante il suo mandato, grazie ai numerosi interventi realizzati insieme all'amministrazione comunale, nel marzo del 2008 riceve il premio “Amico della bicicletta”, assegnato dalla FIAB (Federazione Italiana Amici della Bicicletta) e riceve il riconoscimento “Ambientalista dell'anno 2008”, assegnato da Legambiente.
Dal 2004 a oggi ha contribuito a realizzare iniziative e infrastrutture che hanno segnato il cambiamento nelle politiche di mobilità e traffico a Bari, con la redazione di un Biciplan. L'obiettivo è quello di svuotare il centro cittadino dalle auto riqualificando gli spazi e lo stile di vita di cittadini e pendolari.
Nel 2010, già in carica con la seconda giunta Emiliano, è eletto consigliere regionale della Puglia nella circoscrizione di Bari per le liste del Partito Democratico.
Nel dicembre del 2012, si candida alle primarie del Partito Democratico, risultando essere il più votato tra gli uomini nella lista dei candidati del territorio barese e pertanto viene candidato nelle liste dello stesso partito alla Camera dei deputati per la circoscrizione Puglia.
Alle elezioni politiche del 2013 viene eletto deputato della XVII legislatura della Repubblica Italiana nella circoscrizione XXI Puglia per il Partito Democratico.
L'11 gennaio 2014 ufficializza la sua candidatura a sindaco di Bari nelle elezioni amministrative della primavera successiva.
Alle elezioni amministrative del 2014 sostenuto da una coalizione di centro-sinistra formata da Partito Democratico, Sinistra Ecologia Libertà, Italia dei Valori, Centro Democratico e nove liste civiche raccogliendo 49,38% dei voti. Al ballottaggio dell'8 giugno viene eletto sindaco del comune di Bari battendo al ballottaggio il candidato del centrodestra Domenico Di Paola con il 65,40% delle preferenze.
Dal 1º gennaio 2015 è in carica come primo Sindaco metropolitano della Città metropolitana di Bari.
Il 12 ottobre 2016 viene nominato presidente dell'Associazione Nazionale Comuni Italiani, succedendo all'ex-sindaco di Torino Piero Fassino.
