FSV Mainz 05, cunoscut sub numele de Mainz 05, a fost format pe 16 martie 1905 (sursă). Clubul a fost înființat de un grup de pasionați locali de fotbal din orașul Mainz - o afirmare a pasiunii lor pentru jocul frumos.
În primii ani, Mainz a cunoscut începuturi modeste, ca majoritatea cluburilor de la acea vreme. Aveau resurse limitate, dar erau bogați în determinare și rezistență - calități care i-au ajutat să crească constant în ciuda numeroaselor adversități.
Printre primii jucători notabili pentru Mainz se numără Herbert Pohlmann, care a jucat cu echipa între sfârșitul anilor patruzeci și începutul anilor cincizeci (sursă).