Giovane di grande talento (non solo per essere stato tricolore degli allievi nel '59, ma per lo stile e la facilità con la quale giostrava nelle corse dilettantistiche) venne allevato con speciale riguardo da Vincenzo Giacotto che lo fece debuttare nella Carpano con l'etichetta, non rara a quei tempi, di "nuovo Coppi" anche perche in bicicletta dava la sensazione di muoversi con la facilità e la potenza del campionissimo.
La carriera da professionista inizia nel 1962 e durante il Giro dell'Appennino affronta la salita della Bocchetta da solo in mezzo ad un uragano. Purtroppo non riesce a vincere per una caduta, ma la gente rimane sorpresa e il paragone con Coppi si rafforza.
Nel 1963 fece sensazione il poker di vittorie ottenuto: Tre Valli Varesine, Giro dell'Appennino, del Veneto e dell'Emilia affrontati e vinti a distanza di 15 giorni l'uno dall'altro dopo essersi concesso una domenica di pausa.
Ogni colpo andava a segno; inevitabile illudersi sul suo conto. Ma Zilioli, evidentemente, era destinato ad essere un campione incompiuto poiché il suo palmares, per quanto nutrito, non è stato illustrato da "perle" di grande splendore come avrebbe potuto, e dovuto, essere il Giro d'Italia, nel quale per tre anni consecutivi fini al posto d'onore: nel '64 (Anquetil), nel '65 (Adorni) e nel '66 (Motta); non fece meglio negli altri undici che lo videro al via: miglior piazzamento 3° nel '69. Quattro le tappe vinte complessivamente. Ha indossato per quattro giorni la maglia gialla al Tour nel '70 (in squadra con Merckx), dopo aver vinto la tappa di Angers (lo finì 13°); si ritirò, invece, nel '68 e nel '72. Fra i suoi piazzamenti: nel campionato del mondo 5° nel '64 e 6° nel '65; in quello italiano 3° nel '64, 2° nel '66, 3° nel '69, 6° nel '70, 3° nel '73 e 4° nel '75. A fine carriera è stato per alcuni anni direttore sportivo di squadre professionistiche e poi della Fiat dilettantistica.