Corridore specializzato nelle cronometro e nelle corse di linea, Zabriskie diventa professionista con il Colorado Cyclist team nel 1999. Dopo essersi distinto in alcune cronometro, passa nel 2001 alla US Postal. Dopo alcuni incidenti fisici, ritorna in forma nel 2004 e vince una tappa (non a cronometro) alla Vuelta a España.
Nel 2005 viene ingaggiato dal Team CSC e vince una tappa al Giro d'Italia ed il prologo del Tour de France, diventando quindi il terzo statunitense dopo Greg Lemond e Lance Armstrong ad indossare la maglia gialla. Nel prologo distanzia Armstrong di 2 secondi e copre la distanza ad una media di 54,676 km/h. Tiene la maglia gialla fino alla 4° tappa, quando cade poco prima dell'arrivo nella cronometro a squadre causando una mancata vittoria alla CSC. A causa della caduta, abbandona alla 9° tappa.
Nel 2006 continua la sua avventura nella CSC, ma non riesce a ripetere i buoni risultati dell'anno precedente, deludendo soprattutto nelle cronometro, la sua specialità. Al mondiale ciclistico di Salisburgo però si riscatta terminando 2° nella prova a cronometro vinta da Fabian Cancellara e aggiudicandosi così la medaglia d'argento.