Giovanni Gerbi nasce il 4 giugno 1885 nella borgata Trincere, un gruppo di case che si affaccia sulla sponda sinistra del Tanaro, a pochi km da Asti. E' il primogenito di una famiglia che, pur non essendo ricca, riesce a tirare avanti abbastanza tranquillamente. Giovanni vive una fanciullezza molto vivace dove si segnala per la sua irruenza ed esuberanza; a undici anni viene mandato a lavorare da uno scalpellino ma vi resiste per pochi giorni come accade da un sarto, da un salumiere, da un fornaio ed in un'impresa di costruzioni. Giovanni non sopporta questi lavori per più di un mese, ma il padre non demorde e lo conduce a tredici anni da un meccanico di biciclette; e qui Giovanni trova il suo mondo e scopre quel magnifico mezzo di locomozione che è la bicicletta. Comincia a percorrere km su km in sella ad una vecchia bicicletta donatagli dal suo datore di lavoro. A quindici anni, sommando i suoi risparmi a quelli del padre, riesce a comprarne una dal costo non trascurabile di trenta lire e finalmente si sente "realizzato". Durante una delle sue "gite" in bicicletta, nell'estate del 1900, si reca a Torino dove scorge un gruppo di ciclisti intenti a prepararsi alla partenza di una corsa: si avvicina, parlotta un pò con loro e capisce che non può perdere l'occasione. Si iscrive subito (una lira il costo) e si allinea al via della Torino-Rivoli e ritorno: è la sua prima gara e, nonostante l'inesperienza, coglie subito un onorevole sesto posto. Qualche giorno dopo si reca nuovamente a Torino e partecipa alla Torino-Trana e ritorno dove stavolta giunge secondo al termine di una tumultuosa volata. Giovanni si allena con continuità e quando viene organizzato il Campionato Astigiano di resistenza è tra i primi iscritti. Sfoggia un maglione rosso che diventerà il suo famosissimo simbolo e, nonostante non fosse favorito, taglia per primo il traguardo, ottenendo la prima vittoria importante. I suoi genitori continuano ad osteggiarlo e verso la fine del 1900 comincia a pensare di abbandorare la città. Nei primi mesi del 1901 si trasferisce a Milano e trova un impiego presso un fornaio. Comincia a recarsi assiduamente nella Piazza d'Armi dove quasi quotidianamente si svolgono delle piccole gare e dove, nonostante non sembri dotato di grande sprint, vince spesso. La domenica se ne va invece in giro per la Lombardia a cercare le corse: vince la Milano-Magenta e ritorno, la Milano-Lecco, la Milano-Varese e la Milano-Pavia anche se poi questa vittoria gli viene tolta per irregolarità. Nel Campionato Provinciale Alessandrino va in fuga da solo, ma a tre km dall'arrivo fora e viene ripreso; nella volata finale si deve accontentare del secondo posto. Alla fine del 1901 il dilettante Gerbi (non ancora diciassettenne) si è comunque fatto notare e ha vinto una decina di corse vere.
Nel 1902 Gerbi è ancora tra i protagonisti delle sfide nella Piazza d'Armi di Milano dove ormai è già diventato un idolo. La Gazzetta dello Sport organizza la Gran Fondo, corsa di 540 km da Milano a Torino e il 21 giugno Giovanni è tra i 71 partenti di questa autentica ed estenuante maratona. Rimane costantemente nel gruppo di testa, superando tante difficoltà, ma a due km dall'arrivo, mentre si sta preparando la volata, si verifica uno sbandamento e Giovanni cade. Vince Busoni mentre Giovanni giunge al traguardo in quinta posizione pedalando con una gamba sola. Successivamente riprende a vincere, cogliendo la vittoria nella Milano-Trecate, nella Milano-Alessandria e nella Milano-Erba nonostante che in questa ultima corsa si presenti alla partenza, insieme a Remondino (uno dei suoi più intimi amici) con 15' di ritardo. I due, che non sono stati svegliati per tempo nella locanda dove erano ospiti) non perdono tempo e partono immediatamente alla caccia degli avversari, recuperano costantemente terreno, superano tutti e giungono al traguardo primo e secondo. Gerbi è scatenato: si allena con continuità e anche la Piazza d'Arma comincia a stargli stretta. Il 6 settembre è al via della Coppa del Re, la manifestazione su strada più prestigiosa del periodo. Vince per distacco, giungendo al traguardo di Novara da dominatore e ponendosi all'attenzione generale come uno tra i migliori dilettanti del momento.