Figlio di Bernardo, membro della Costituente, più volte ministro e pezzo da novanta della Democrazia cristiana, la carriera politica di Sergio inizia davvero solo con la tragica morte del fratello Piersanti, il presidente della Regione Sicilia assassinato dalla mafia il 6 gennaio del 1980 per aver avviato un rinnovamento delle istituzioni locali per niente gradito ai boss. Cresciuto nella corrente Dc che faceva riferimento ad Aldo Moro, entra infatti in Parlamento nel 1983, in “quota” Zaccagnini.{googleads right}
Nel 1987 diventa ministro dei rapporti con il Parlamento nei governi De Mita e Goria. Poi ministro dell’Istruzione con Giulio Andreotti, carica dalla quale si dimette nel 1990 in segno di protesta contro l’approvazione della legge Mammì compiendo così il primo atto pubblico di ostilità verso Silvio Berlusconi essendo Fininvest tra i principali beneficiari di quella legge che normava il mercato radiotelevisivo in sostanza legittimando la situazione esistente in quel momento. Sopravvissuto alla fine della prima Repubblica, nella seconda riceve da Massimo D’Alema gli incarichi prima di vicepresidente del consiglio poi di titolare della Difesa e sarà ministro anche del governo Amato. Nel 2001 viene rieletto alla Camera con la Margherita. Riconfermato nel 2006 per la lista dell’Ulivo. Nel 2008, alla caduta del governo Prodi, cessa il suo mandato in Parlamento e dal 2011 è giudice della Corte costituzionale.