Outre les baraques de bois, affectées au logement des détenus, il fallut construire une solide enceinte de pierre, des casernements et des bureaux pour la garnison SS, des ateliers et diverses installations pour l’entretien du tout.
Les baraquements des détenus (Block), tous de même type, mesuraient environ 50m x 7m. Chacun d’eux était partagé en deux ailes, A et B, situées de part et d’autre de l’entrée et comprenant un dortoir (Schlafsaal), une pièce commune (Dienstraum), une pièce d’eau munie d’une vasque circulaire au milieu de laquelle une sorte de champignon crachait de minces jets d’eau, et des W.C.
Les baraquements affectés au logement des sous-officiers SS et aux bureaux étaient du même type que les nôtres, mais revêtus à l’intérieur d’isorel et pourvus du chauffage central.
Quant aux constructions de pierre (Kommandantur, Bunker, mur d'enceinte), il fallut, pour les mener à bien, monter de la carrière, à dos d’homme, par un escalier de 186 marches, des milliers de bloc de granit. Travail inhumain, qui, en 1944, était réservé au Kommando disciplinaire ; mais de 1940 à 1942, presque tous les détenus y furent employés. Les rescapés qui survivaient en 1944 avaient coutume de nous dire que chaque pierre représentait la vie d’un homme. La construction du Bunker (prison cellulaire, dans les caves duquel se trouvaient le four crématoire et les dispositifs d’exécution par balle, gaz ou pendaison) fut commencée le 8 octobre 1941 ; celle de la Kommandantur, le 5 février 1942. A la fin de 1942, les canalisations étant posées, le K.L. Mauthausen était pour l’essentiel achevé. Il comprenait : 25 Block pour détenus disposés du nord au sud par rangées de 5, deux grands Block à usage de blanchisserie et de cuisine, le Bunker.
Cet ensemble que devait enclore une muraille portant 8 rangs de barbelés électrifiés, constituait le camp proprement dit (Häftlingslager). A l’est au nord, la muraille d’enceinte ne fut jamais édifiée : elle était remplacée par un réseau de barbelés électrifiés, haut de 3 mètres environ. L’enceinte était flanquée, de place en place, de miradors, où veillaient des sentinelles armées de mitrailleuses ou de F.M., lorsque, le travail terminé, les détenus étaient tous rentrés dans ce camp intérieur. Autour de celui-ci se trouvaient les baraquements des SS, les ateliers d’entretien du camp, la carrière, et, depuis 1943, le camp des malades. Cette seconde zone était elle-même entourée de barbelés avec des miradors, garnis de sentinelles aux heures de travail, où la quasi-totalité des détenus se trouvaient sortis du camp intérieur.
Ainsi constitué, le K.L.M. ne pouvait abriter […] les foules de déportés qui, en dépit d’une très forte mortalité, vinrent, à partir de 1943, doubler, puis tripler et, en 1945, sextupler l’effectif de 1942.
Il fallut alors agrandir le camp. En août 1944, on aménageait au-delà des Block 20 à 25, vers le sud, de nouveaux baraquements, beaucoup plus frustes que les anciens. En même temps on montait, entre la première et la seconde enceintes, un groupe de 16 grandes tentes.
