Urs Zimmermann nasce a Mühledorf il 29 novembre 1959. Tra i dilettanti conquista diverse vittorie e importanti piazzamenti mettendo in risalto le sue ottime doti di passista-scalatore. In particolare nel 1982 conquista la medaglia d'argento ai mondiali di Goodwood (Gran Bretagna) nella cronometro a squadre
Nel 1983 passa professionista con la Cilo-Aufina e, dopo un anno di apprendistato, nel 1984 conquista il Tour de Suisse precedendo nella generale portoghese Acácio da Silva. Inoltre si aggiudica anche la Grabs-Voralp, ottiene il secondo posto al Gp di Lugano vinto da Benno Wiss, è settimo alla Freccia Vallone e nono al Trofeo Baracchi.
Nel 1985 approda alla Carrera Jeans mettendosi in luce in più di una occasione: è secondo a Jesi nella settima tappa del Giro d'Italia, secondo al Giro del Piemonte, terzo alla Coppa Agostoni, quarto al Giro di Romagna e quinto alla Coppa Placci. Il 1986 è ancora più ricco di soddisfazioni e di vittorie importanti. Urs vince il Criterium International battendo Sean Kelly, il Giro del Delfinato davanti al francese Ronan Pensec, il Giro del Lazio superando Gianni Bugno ed è campione svizzero su strada.
Al Tour de France, pur senza vincere nemmeno una tappa, Urs Zimmermann dimostra una grandissima costanza riuscendo a chiudere terzo in generale a 10'54" da Greg LeMond.
Il 1987 non è un anno particolarmente positivo per lo svizzero che si rifà l'anno seguente vincendo una tappa del Trofeo dello Scalatore, la prima tappa e la classifica generale al Giro del Trentino battendo il connazionale Tony Rominger dopo di che Urs arriva al Giro con la gamba pronta. La corsa rosa viene vinta da Andrew Hampsten, che precede l'olandese Erik Breukink mentre Urs Zimmermann coglie un brillante terzo posto.
Nel 1989 arrivano solo piazzamenti tra questi spiccano il quinto posto al Giro di Romandia ed il sesto posto finale al Giro d'Italia a 6'28" da Laurent Fignon.
Nel 1990 approda all'americana Seven-Eleven, non ottiene vittorie ma chiude secondo al Giro del Friuli alle spalle di Leonardo Sierra e quarto al Giro del Trentino
Nel 1991 veste la maglia della Motorola e al Tour de France è protagonista di una clamorosa e storica espulsione. La Grande Boucle il 17 luglio vive l'unico giorno di riposo, gli atleti si trasferiscono da Nantes a Pau, in maglia gialla c'è Greg LeMond. Zimmermann ha paura di volare, o almeno così dice e si rifiuta di salire sull'aereo preferendo il viaggio in auto.
L'inflessibile giuria del Tour decide di cacciare lo svizzero scatenando i malumori del gruppo. Il giorno seguente, infatti, quando viene abbassata la bandiera dello start per la Pau-Jaca i corridori inscenano una clamorosa protesta rifiutandosi di partire. La protesta è legata sia all'espulsione che all'obbligo di indossare il casco reso obbligatorio proprio quell'anno.
Mentre i ciclisti scioperano e l'organizzazione del Tour è adirata, la notizia dello sciopero arriva ad Urs che sta per tornare a casa. Appresa la notizia lo svizzero torna indietro, si cambia d'abito, infila pantaloncini e maglietta e viene clamorosamente riammesso in corsa. A pagare è Jim Ochowicz che viene (in questo caso, sì) espulso dal Tour a seguito di una discussione con la ASO. Zimmermann termina il Tour in 116a posizione con un ritardo di 2h13'58" dal vincitore Miguel Indurain.
Al termine della stagione 1992 Urs appende la bici al chiodo ma il ritiro ufficiale avviene solo nel 1996 dopo la Sei Giorni di Colonia corsa in coppia con il belga Matthew Gilmore.