Los primeros prisioneros llegaron desde el campo de Dachau el 8 de agosto de 1938; al finalizar el año habían sido transferidos unos 800 presos más de este campo y de Sachsenhausen, la mayor parte, disidentes políticos. Himmler mandó detener a vagabundos, mendigos, gitanos y gente sin residencia fija, homosexuales y criminales comunes; de esta forma, en agosto de 1939 la población reclusa de Mauthausen ascendía a unos 2.700 hombres. Todos ellos trabajaban en la cantera, cuyas piedras se utilizaban para fortificar el propio campo, adoquinar las calles de numerosas ciudades austriacas y también para construir los edificios megalómanos ideados por Hitler.

Hasta 1940 el recinto comprendía unos veinte barracones a los que se fueron añadiendo la lavandería, las duchas subterráneas, las cocinas, la prisión y el bunker subterráneo, todo ello rodeado por una alambrada eléctrica y torres de vigilancia. Fue entre 1941 y 1942 cuando el campo adquirió el aspecto de una fortaleza, con sus torres de vigilancia, las murallas, el camino de ronda, los garajes de los SS y la kommandantur. Los republicanos españoles empezaron a llegar a Mauthausen durante esta época y fueron destinados, entre otras tareas, a los trabajos derivados de esta construcción.

Mauthausen fue el campo nazi donde fueron deportados más republicanos españoles:7.533 identificados actualmente. De éstos, unos 5.000 hallaron la muerte durante su deportación, la mayor parte en el campo de Gusen, situado a 5km del campo central; 457 fueron gaseados en el castillo de Hartheim; otros 339 fallecieron en el campo central; en Styer, 58; y el resto en diferentes comandos externos.

El colectivo de los republicanos españoles fue identificado en Mauthausen con el triángulo azul que les clasificaba como apátridas sin que ningún Estado les reclamase como propios. La Gestapo los localizó en los stalags y se dispuso su deportación a Mauthausen en unos convoyes organizados exclusivamente para ellos.