L'FSV Mainz 05, comunemente noto come Mainz 05, fu fondato il 16 marzo 1905 (fonte). Il club è stato fondato da un gruppo di appassionati di calcio locali della città di Magonza, una conferma della loro passione per il bel gioco.
Nei suoi primi anni, il Magonza visse inizi modesti come la maggior parte dei club dell'epoca. Avevano risorse limitate ma erano ricchi di determinazione e resilienza, qualità che li hanno aiutati a crescere costantemente nonostante le numerose avversità.
Tra i primi giocatori degni di nota del Magonza c'è Herbert Pohlmann che giocò con la squadra tra la fine degli anni Quaranta e l'inizio degli anni Cinquanta (fonte).