Nato a Igorre da famiglia umile (papà saldatore, mamma casalinga), gli è sempre piaciuto lo sport: calcio, pelota basca, arti marziali (soprattutto karate) e cross di atletica. Ha cominciato a correre a 12 anni, in una scuola di ciclismo di Igorre, per una scommessa: gli organizzatori regalavano un panino ai bambini che avrebbero finito una corsetta di paese. E così per non essere da meno dei suoi amici, Mayo salì su una bici. Da junior vinse ventitré corse e nel '95, ai Mondiali juniores di San Marino, finì quarto stritolato nella morsa italiana da China, Basso e Nocentini, giunti davanti a lui nell'ordine d'arrivo. Da dilettante con la Banesto, fu messo in ginocchio da un dannatissimo incidente: infatti nel 1997, in un incidente d'auto mentre stava facendo il servizio militare per la Croce Rossa basca, Iban si fratturò le due caviglie (quella destra in tre punti) e un braccio. Rimase tre mesi sulla sedia a rotelle; fu un periodo davvero duro, vedeva tutto nero, sentiva di non avere più nessuna possibilità di tornare in bicicletta. I medici gli dicevano: "Iban, pensa a ritornare a camminare. Per pedalare c'è tempo..." Poi ha trovato sulla sua strada Sabino Angoitia, diesse della Café Baqué, che oggi è il suo più caro amico, confidente e manager. Fu lui a rimetterlo in bicicletta, fu lui a spronarlo e così, grazie anche ad una volontà fuori dal comune, riuscì a recuperare.
Riprese nel 1999 con la Café Baqué di Sabino Angoitia: si impose in tredici gare e fu il miglior giovane spagnolo. Nonostante questo, nessuno lo voleva da professionista: neanche l'Euskaltel, che alla fine lo fece passare nel 2000 dopo parecchie insistenze, perché i rapporti con la squadra dilettanti non erano dei più buoni.
Dopo il primo anno di apprendistato, nel 2001 ha vinto il Midi Libre; nel 2002 è stato quinto alla Vuelta e nel 2003 il basco di Igorre, località a 15 chilometri da Bilbao, ha davvero compiuto un notevole salto di qualità; primo nel Giro dei Paesi Baschi, con tre tappe; secondo dietro Hamilton nella Liegi-Bastogne-Liegi; primo nella tappa di Morzine del Giro del Delfinato, staccando Armstrong; infine il trionfo al Tour, all'Alpe d'Huez. Ha chiuso la Grande Boucle al sesto posto in classifica generale, dietro al compagno di squadra Zubeldia e davanti al coetaneo Ivan Basso.
Nel corso della stagione firma un nuovo contratto triennale con la Euskaltel per il 2004. Ad un certo punto sembrava davvero sul punto di firmare per la Saeco di Astarloa. Poi la Euskaltel gli ha fatto una buona proposta, non buona quanto quella della Saeco, ma certamente più suggestiva: Iban oggi è il leader di una squadra e di un Paese. È il simbolo di un popolo: i Paesi Baschi. La sua non è stata solo una scelta economica, ma di cuore. Per il 2004 il suo obiettivo rimane il Tour e la stagione è concentrata su questo appuntamento. Nel mese di maggio Iban comincia a vincere a ripetizione: Clasica Alcobendas (e due tappe), Subida al Naranco e Vuelta Asturie. Prosegue nel mese di giugno con la vittoria in due tappe e nella classifica finale del Giro del Delfinato; si presenta così al Tour come uno dei favoriti. Nella terza tappa cade e perde quasi quattro minuti da Armstrong e nelle tappe successive non riesce mai ad essere protagonista ritirandosi prima della partenza della 15° tappa quando ormai è a 45' dalla maglia gialla. Stagione praticamente finita.
Nel Giro del Delfinato del 2006 torna alla vittoria dopo un 2005 abbastanza opaco soprattutto a causa dei postumi della caduta dell'anno precedente.
Nel mese di agosto si rende protagonista con una bella fuga alla Classica di San Sebastian, con un tentativo nato sulle rampe dell' Alto de Jaizkibel e il giorno successivo coglie la seconda vittoria stagionale alla Subida a Urkiola. Prende poi parte alla Vuelta a España ma disputa una corsa incolore ottenendo come miglior risultato un 11° posto nella 7.a frazione e termina 35° in classifica generale.
Dal 2007 si trasferisce alla squadra spagnola Saunier Duval Prodir.