Sve je počelo 1932. godine, kada su braća i rudarski inženjeri Alfons i Karl Knauf osigurali prava rudarenja na gipsnim nalazištima u općini Schengen, smještenoj u Gornjoj Moseli. Ubrzo nakon toga, sljedeće godine, braća Knauf su izgradili svoju prvu tvornicu za proizvodnju gipsa u Peralu. Ovaj važan korak postavio je temelje za ono što će postati Knauf Grupa kakvu danas poznajemo.

U Iphofenu je ubrzan rast obiteljske kompanije kao inovativnog partnera u industriji građevinskog materijala. Na primjer, Knauf je 1958. godine stvorio potpuno nove metode gradnje s proizvodnjom potpuno novih gipsanih ploča. Nekoliko godina kasnije, kompanije je prvi put razvila sustave suhe gradnje i kontinuirano proširivala svoju paletu proizvoda kako bi uključila komponente za obradu, specijalne alate i metalne profile za zidne i stropne konstrukcije.

U 1978. godini, Knauf je postavio temelj za svoj odjel za izolacijske materijale, područje koje je i danas vrlo važno: Knauf je preuzeo proizvodni pogon za staklenu vunu u Shelbyvilleu (SAD). Ovaj potez je značajno doprinio razvoju portfelja proizvoda tvrtke i označio važan korak u širenju poslovanja izvan tradicionalne proizvodnje gipsa.

U 2008. godini, Nikolaus i Baldwin Knauf prebacili su se u odbor dioničara tvrtke. U tom odboru, naizmjenično su obnašali funkciju predsjednika i potpredsjednika.