Els primers presoners hi van arribar des del camp de Dachau el 8 d’agost de 1938; al finalitzar aquell any s’hi havia transferits uns 800 presos més d’aquest camp i de Sachenhausen, la major part dissidents polítics.  Himmler manà detenir a vagabunds, pidolaires, gitanos i gent sense residència fixa, homosexuals i criminals comuns; d’aquesta manera a l’agost de 1939 la població reclosa a Mauthausen era d’uns 2.700 homes.  Tots treballaven a la pedrera, per proveir de pedres per a la fortificació del propi camp, empedrar els carrers de nombroses ciutats austríaques i també per a construir els edificis megalòmans ideats per Hitler.

Fins el 1940 el recinte comprenia una vintena de barracons, s’hi van anar afegint la bugaderia, les dutxes, les cuines, la presó i el búnquer subterrani, tot envoltat per un filat elèctric i torres de vigilància. Va ser entre el 1941 i el 1942 quan el camp va adquirir l’aspecte d’una fortalesa amb les seves torres de vigilància, les muralles, el camí de ronda, els garatges de les SS i la kommandantur.  Els republicans espanyols van començar a arribar a Mauthausen durant aquesta època i van ser destinats, entre altres feines, als treballs de construcció.

Mauthausen va ser el camp nazi on van ser deportats més republicans espanyols: 7.533 identificats actualment.  D’aquests, uns 5.000 van morir durant la seva deportació, la major part en el camp annex de Gusen, situat a uns 5km del camp central; 457 van ser gasejats al castell de Hartheim; 339 van morir en el camp central; a Steyr 58 i la resta a diferents comandos externs.

El col·lectiu de republicans espanyols va ser identificat a Mauthausen amb el triangle blau que els classificava com a apàtrides, ja que cap estat els reclamava coma propis.  La Gestapo els havia localitzats als stalags i els van deportar a Mauthausen en uns combois organitzats exclusivament per a ells.