Dana 2. juna 1900. Germania 1896 i FG Kaiserslautern spajaju se te formiraju FC 1900. Devet godina kasnije s klubovima FC Palatia (osnovan 1901) i FC Bavaria (osnovan 1902) formira FV 1900 Kaiserslautern. Godine 1929. ujedinjuje se s ekipom SV Phönix, te postaje FV Phönix-Kaiserslautern. Tri godine kasnije usvaja sadašnji naziv. Kaiserslautern je bio jedan od osnivača Bundeslige. U ovom takmičenju igrao je u kontinuitetu od 1963. do 1996.
Kaiserslautern je jedan od najuspješnijih njemačkih klubova. Četiri puta bio je prvak države, nacionalni kup osvajao je dva puta, te je jedanput bio osvajač Superkupa. Trenutno zauzima 11. mjesto na vječnoj tabeli Bundeslige. Najveći uspjesi na međunarodnim takmičenjima jesu dva polufinala Kupa UEFA (1982, 2001), te četvrtfinala Lige prvaka 1999. U sezoni 1997/98. osvojio je Bundesligu odmah nakon ulaska iz nižeg ranga, što je jedini takav slučaj u njemačkom nogometu.