FSV Mainz 05, joka tunnetaan yleisesti nimellä Mainz 05, perustettiin 16. maaliskuuta 1905 (lähde). Seuran perusti joukko paikallisia jalkapallon harrastajia Mainzin kaupungista - osoituksena heidän intohimostaan kaunista peliä kohtaan.
Alkuvuosinaan Mainz koki vaatimattomia alkuja, kuten useimmat sen ajan seurat. Heillä oli rajalliset resurssit, mutta heillä oli runsaasti päättäväisyyttä ja joustavuutta – ominaisuuksia, jotka auttoivat heitä kasvamaan tasaisesti lukuisista vastoinkäymisistä huolimatta.
Mainzin varhaisten merkittävien pelaajien joukossa on Herbert Pohlmann, joka pelasi joukkueessa 40-luvun lopusta 50-luvun alkuun (lähde).