Die ersten polizeilichen „Erziehungslager“ neuen Typs entstanden 1938 beim Bau des Westwalls. Verstöße gegen die Arbeitsdisziplin wurden in diesen Arrestanstalten durch schwerste körperliche Arbeit und Lagerdrill bestraft. 

Der Begriff „Arbeitserziehungslager“ (Abkürzung "AEL" oder "AZ" für "Arbeistzuchtlager") taucht erstmals in den sogenannten „Polenerlassen“ vom 8. März 1940 auf. Sie regelten unter anderem die Bestrafung von Verstößen gegen die Arbeitsdisziplin. 

Der norddeutsche Raum wurde zu einem Zentrum dieser Lager, da hier die „Vierjahresplanwerke“ seit Ende der dreißiger Jahre Tausende von Zwangsarbeitern einsetzten. Die Einrichtung der Arbeitserziehungslager war anfangs den Staatspolizeistellen überlassen, erfolgte aber oft auch auf Wunsch von Unternehmen. Ab 1941 wurden die Arbeitserziehungslager zu einer festen Institution innerhalb des NS-Lagersystems. Sie waren „ausschließlich zur Aufnahme von Arbeitsverweigerern und arbeitsunlustigen Elementen“ bestimmt, „deren Verhalten einer Arbeitssabotage gleichkommt“.

Es kamen aber auch Häftlinge hinzu, die wegen eines politisch abweichenden Verhaltens eingewiesen wurden. Hierzu zählten zum Beispiel die Verweigerung des „Deutschen Grußes“, verbotene Kontakte zu Ausländern, das Erzählen von Witzen über das Dritte Reich oder das Abhören von Feindsendern.

Zunehmend wurden auch Deutsche der „Arbeitserziehung“ zugeführt. Oft profitierten Betriebe vom Einsatz der Arbeitserziehungshäftlinge gerade bei schwersten körperlichen Arbeiten. Die Haft sollte nur drei bis acht Wochen dauern, damit die Unternehmen nicht zu lange auf ihre Arbeitskräfte verzichten mussten. Doch die Lagerleitung konnte die Dauer „bei schlechter Führung“ verlängern oder die Einweisung in ein KZ anordnen. 

Die äußerst primitiven und brutalen Lebensumstände in den Arbeitserziehungslagern dienten auch zur Abschreckung und Einschüchterung. Dies gewährleistete nach Ansicht der Geheimen Staatspolizei einen größeren „Erziehungserfolg“ als kleinere Strafaktionen.