Im August 1933 schrieben Häftlinge im KZ Börgermoor das „Moorsoldatenlied“. Seitdem ist es ein international bekanntes Zeugnis für den Umgang von KZ-Häftlingen mit den Lagertorturen, für Gewalterfahrung und Widerstand, für Heimatsehnsucht und Selbstbehauptung. Das Lied breitete sich mit dem KZ-System über Deutschland und die Besatzungsgebiete aus.

Nachdem in der Nacht des Reichstagsbrandes die Verfolgung politischer Gegner des Nationalsozialismus begonnen hatte, wurden unter Ausschaltung der Justiz vor allem Kommunisten, Sozialdemokraten und Gewerkschafter in sogenannte „Schutzhaft“ genommen, zunächst in zum Teil „wilden“ Haftstätten inhaftiert und anschließend – oft unter großen Torturen – in Lager transportiert.

Bereits im März 1933 hatten staatliche Planungen für die Errichtung von Konzentrationslager begonnen. Eines der ersten Lager war das im April 1933 in einem Provinzialwerkhaus eingerichtete KZ Moringen, in das etwa 950 Männer und Frauen aus der Arbeiterbewegung gesperrt wurden. Von Oktober 1933 bis 1938 war es das erste Frauen-KZ in Preußen. 

Im Sommer 1933 ließ der preußische Staat das „Staatliche Konzentrationslager Papenburg“ (Verwaltungssitz) mit den im nördlichen Emsland gelegenen Lagern Börgermoor, Esterwegen als Doppellager und Neusustrum für 4.000 „Schutzhäftlinge“ errichten. 1936 wurde Esterwegen wie zuvor das KZ Vechta und das Schutzhaftlager Osterode als letztes KZ im Emsland aufgelöst.

Neben politischen Schutzhäftlingen wurden schon in den frühen KZ auch rassistisch, sozial und religiös Verfolgte sowie sogenannte „Berufsverbrecher“ inhaftiert. 

In den Kriegsjahren entstanden an vielen Orten KZ-Außenlager, um Häftlinge in kriegswichtigen Projekten als Zwangsarbeiter einsetzen zu können (so im KZ Drütte auf dem Gelände der Herman-Göring-Werke). Daneben existierten mit Bergen-Belsen ab 1943 ein KZ zunächst für Juden und später für andere Häftlingsgruppen sowie mit Moringen ein Jugend-KZ (1940-1945).