Jens Fiedler nasce il 15 febbraio 1970 a Dohna Heidenau nella Repubblica Democratica Tedesca. Il suo primo contatto con il ciclismo internazionale avviene nel 1987, in occasione dei mondiali juniores vinti dal suo connazionale Eyk Pokorny. Ai mondiali Fiedler torna l'anno dopo e fa suo il titolo velocità juniores, battendo in finale l'italiano Gianluca Capitano (che vincerà il titolo l'anno seguente a Mosca). Partecipa l'anno seguente al mondiale dilettanti a Lione in Francia, ben figurando nei primi dieci.
L'anno seguente, nel 1990, ottiene il terzo posto, mentre nel 1991 batte in una spettacolare finale alla bella il campione uscente Bill Huck in una rimonta di misura che infiamma il pubblico.
Nel 1992 ci sono le Olimpiadi, e Fiedler favorito non se le lascia sfuggire, battendo in finale l'Australiano Gary Neywand e in semifinale l'italiano Roberto Chiappa. Dopo questa vittoria Fiedler, per sua stessa ammissione, si lasciò andare, pago dei risultati ottenuti, partecipò ai vari mondiali senza ottenere risultati degni del suo prestigio (massimo un quarto posto a Palermo, oltre alla vittoria nella velocità olimpica nel 1995 assieme ad Hubner e Van Eyden).
Questo sino al 1996, quando alle Olimpiadi, dove i favoriti erano Hill, Nothstein, Harnett e Neiwand e nessuno lo metteva in lizza, lui sorprende tutti e bissa il successo di quattro anni prima battendo Nothstein e Harnett.
Dal 1997 al 1999 si piazza sempre secondo al mondiale, battuto dai francesi Rousseau e Ganè. Vince il Keirin a Berlino nel 1999 e l'anno dopo conquista la medaglia di bronzo, sia nella velocità che nel keirin alle Olimpiadi di Sidney 2000. Prima di concludere la carriera all'inizio del 2005, conquista il mondiale nel 2003 della velocità a squadre e la medaglia d'oro olimpica ad atene 2004 nella stessa specialità.