Schon bald nach Beginn des Krieges gegen die Sowjetunion kamen aus den Lagern, wo jeweils viele Tausende russischer Kriegsgefangener unter schwierigsten Bedingungen zusammenlebten, Gesuche von Einzelnen und Gruppen zur Übernahme in den Hilfsdienst der Wehrmacht oder zum Einsatz mit der Waffe an der Front. Bei den Kriegsdienstwilligen handelte es sich meist um Angehörige von Volksgruppen der Sowjetunion, die der bolschewistischen Weltanschauung aus politischen oder religiösen Gründen ablehnend gegenüberstanden oder die aus historisch oder völkisch motiviertem Freiheitsbewusstsein mit Hilfe Deutschlands ihr Volk und Land aus der straffen Zentralgewalt Moskaus zu lösen hofften.
Adolf Hitler und der größte Teil der nationalsozialistischen Führung standen diesen Bestrebungen anfangs ablehnend gegenüber. Erst sehr viel später, unter dem Druck der russischen Offensiven seit 1944, hat Adolf Hitler seinen Widerstand gegen die Bildung von russischen Bataillonen innerhalb der deutschen Wehrmacht aufgegeben.
Die Wehrmacht, besonders das Heer, hat im rückwärtigen Heeresgebiet die Übernahme von Hilfswilligen (Hiwis) als Arbeitskräfte geduldet. Hohe Offiziere befürworteten ausdrücklich die Aufstellung von bewaffneten Einheiten aus einheimischen Freiwilligen, die wegen ihrer Landes- und Sprachkenntnisse besonders im Partisaneneinsatz verwendet werden sollten.
Unter der Protektion dieser deutschen Offiziere begannen der 1942 gefangengenommene General Andrej Wlassow und der Oberst Wladimir Bojarskij mit einer großangelegten Werbungsaktion für die Aufstellung einer nationalrussischen Armee. Der überraschende Erfolg erweckte anfänglich die Gegnerschaft der NS-Funktionäre, die bei Adolf Hitler ein Verbot jeder weiteren Tätigkeit Wlassows erwirkten. Der General wurde in ‘Ehrenhaft’ nach Berlin gebracht.
Trotz dieser anfänglichen Widerstände wurden russische Freiwilligenverbände weiter an der Front eingesetzt und lobend im Wehrmachtsbericht erwähnt. Unter ihnen waren Großrussen, Weißruthenen, Esten, Litauer, Ukrainer, Bessarabier und Tataren. Mit hervorragender Tapferkeit kämpften die Kosaken vom Terek, vom Kuban und vom Don, die bereits unter dem Zaren als Elitesoldaten galten. Sie hatten eine alte Rechnung mit dem Bolschewismus zu begleichen, der ihnen alle Sonderrechte genommen hatte. Die verwegenen Reiter wurden besonders im Späh- und Aufklärungsdienst und zur Partisanenbekämpfung verwendet.
Die steigenden Verluste der Wehrmacht an der Ostfront, zusammen mit der zunehmenden Partisanentätigkeit hinter der Front, führte zwangsläufig zu einem Prozess, der mit einer zunehmenden Einbindung einer großen Anzahl der russischen Kriegsgefangenen in die deutschen Kriegsanstrengungen führte.
Ausgewählte ehemalige Soldaten der Roten Armee wurden in deutsche Uniformen ohne Rangabzeichen gesteckt und sie wurden oft in den offiziellen Stärkenachweisen der Truppe eingerechnet. Diese ‘Frans’ oder ‘Hiwis’ (Abkürzung für Hilfswillige) ermöglichten es den deutschen Einheiten, mehr deutsche Soldaten als Kampftruppen zu verwenden und den Hiwis die Durchführung der Nachschubstransporte, Bauarbeiten und andere, nicht mit direkten Kampfhandlungen verbundene Aufgaben, zu überlassen.
Es wird geschätzt, dass insgesamt etwa 1,5 Millionen Russen in der Wehrmacht Dienst taten. Mitte 1944 gab es etwa 160 Bataillone mit rund 300.000 russischen Kämpfern.
Der nächste Schritt war dann, den Hiwis eine zunehmend aktivere Rolle als Übersetzer, Späher, Wachen und schließlich als Frontkämpfer zu übertragen. Zum gleichen Zeitpunkt begannen Befehlshaber hinter der Front ganze Einheiten aus gefangengenommen ehemaligen Rotarmisten in Bataillonsstärke zu rekrutieren, welche als Sicherungstruppen hinter der deutschen Front und insbesondere zum Schutz der wichtigen Eisenbahnlinien gegen sowjetische Partisanen eingesetzt wurden. Zu Beginn trugen diese Männer ihre alten russischen Uniformen, von denen die sowjetischen Erkennenugszeichen entfernt worden waren und sie erhielten eine Armbinde mit der Aufschrift ‘Im Dienste der deutschen Wehrmacht’. Ab August 1942 erhielten sie dann deutsche Uniformen, welche besondere Abzeichen enthielten.
Im Juli 1942 wurde der Stab und das Rahmenpersonal der aufgelösten deutschen 162. Infanterie-Division in Polen dazu verwendet, sechs neu aufgestellte Freiwilligen-Legions-Bataillone aus Armenien, Aserbeidschan, Georgien, Nord-Kaukasus, Wolga-Tartaren und Turkestan auszubilden. Insgesamt wurden 98 Legions-Bataillone aus Ostvölkern aufgestellt, davon 82 durch die deutsche 162. Infanterie-Division. Von diesen wurden zwischen 1942 und 1945 79 an der Ostfront oder auf dem Balkan eingesetzt, 12 gingen 1943 und 1944 nach Italien und Frankreich.
Am 4. August 1943 wurde dann die 1. Kosaken-Division aus sechs Kavallerie-Regimentern (1. und 5. Don-Kosaken, 2. Sibirische Kosaken, 3. und 4. Kuban-Kosaken und 6. Terek-Kosaken) mit unterstützenden Divisionseinheiten aufgestellt. Sie wurde ab Oktober 1943 in Kroatien eingesetzt und im November 1944 der Waffen-SS eingegliedert, welche die Division in die 1. und 2. Division aufteilte, welche zusammen das XV. Kosaken-Kavallerie-Korps bildeten. Neun unbahängige Kosaken-Infanterie-Bataillone und 19 unabhängige Kosaken-Kavallerie-Bataillone kämpften an der Ostfront bei deutschen Divisionen.
Im Januar 1943 wurden die Ostbataillone der deutschen Divisionen der Russischen Befreiungsarmee (Russkaya Osvoboditel’naya Armiya) oder kurz ROA unterstellt, welche unter dem Kommando des ehemals sowjetischen General Wlassow stand. Er hatte gehofft, alle russischen Freiwilligen-Einheiten in der Wehrmacht in eine eigene Armee überführen zu können, um die Sowjetunion von der kommunistischen Herrschaft befreien zu können und ein neues Russland zu schaffen.
Jedoch blieben die Bataillone, verteilt auf einzelne deutsche Divisionen, weiterhin unter der deutschen Befehlsgewalt. Von den insgesamt 71 Bataillonen der ROA an der Ostfront wurden seit Oktober 1943, 42 Bataillone von aufgeriebenen deutschen Divisionen nach Belgien, Dänemark, Frankreich und Italien verlegt. Mit dem Zusammenbruch der Fronten in Russland wurde die ROA am 14. November 1944 durch die Umbenennung in ‘Bewaffnete Streitkräfte des Komitees zur Befreiung des russischen Volkes’ (VS-KONR) als offizielle Streitmacht eingesetzt. Trotzdem wurde der Begriff ROA bis zum Kriegsende zumeist weiterverwendet.
50.000 russische Freiwillige wurden für die ersten drei Divisionen rekrutiert. Die russische 1. Infanterie-Divisionen (als 600. Infanterie-Division der Wehrmacht) wurde am 1. Dezember 1944 aufgestellt und kämpfte an der Oder-Front ab April 1945. Die russische 2. Infanterie-Division (als 650. Infanterie-Division der Wehrmacht) sowie die russische 3. Infanterie-Division (als 599. Infanterie-Division der Wehrmacht) konnten nicht mehr vollständig aufgestellt, ausgebildet und eingesetzt werden.
Am 22. Juni 1941 löste sich das 29. Korps der Roten Armee (Baltischer Spezial-Militärdistrikt) auf, welches aus zwei Divisionen (179. und 184. (?) Schützen-Division) der ehemals litauischen Armee bestand. Beide Divisionen meuterten, töteten die meisten ihrer russischen Offiziere und Kommissare und erklärten sich selbst zur litauischen Befreiungsarmee. Das Loch, welches sie in der sowjetischen Frontlinie zurückließen, nutzte ein deutsches Panzerkorps zum Vorstoß auf Kaunas, welches bereits von 6.000 litauischen Soldaten des ehemaligen 29. Korps besetzt gehalten wurde. Die deutschen Truppen entwaffneten die litauischen Soldaten und setzten sie nach und nach als Sondereinsatzgruppen, Polizeieinheiten und Wachmannschaften ein. Es wird auch angenommen, dass zwei lettische und vermutlich eine estnische Division der Roten Armee sich ebenfalls auflösten.
Die Bevölkerung von Estland, Lettland und Litauen wurde von der deutschen Verwaltung auf verschiedene Weise eingebunden. Eine große Anzahl von Esten wurde zum Beispiel von der deutschen 18. Armee angeworben, um die rückwärtigen Verbindungen zu schützen. Später versuchte man es sogar mit einer regulären Wehrpflicht, welcher aber geringe Erfolge beschieden waren.
Am 1. Januar 1943 wurden die erstnischen Truppen in die estnische 657. Kompanie und die estnischen Bataillone 658-660 neu formiert. Am 24. April 1944 wurden diese Einheiten der Waffen-SS zugeordnet.
Ab Februar 1944 wurden sechs estnische Grenzschutz-Regimenter (Nr. 1-6) aufgestellt, um Estland gegen die vorrückende Rote Armee verteidigen zu helfen. Nach Verlust der letzten Gebiete dort, wurden diese Regimenter im September 1944 aufgelöst.
Der erste Beitrag der Litauer zu den deutschen Kriegsanstrengungen war die Aufstellung von Bau-Kompanien im April 1943, welche der deutschen Armee unterstanden. Zwanzig Bataillone mit zusammen 12.000 Litauern dienten bei der deutschen Polizei als sogenannte Schutzmannschaften.
Im September 1943 begann die deutsche Luftwaffe mit der Aufstellung lettischer Verbände, welche im August 1944 zur lettischen Luftwaffen-Legion zusammengelegt wurden. Diese Legion bestand aus drei Staffeln Nachtschlachtflugzeuge (ausgerüstet mit erbeuteten russischen Polikarpow Po-2), einer Flugschule, einem Flak-Bataillon und verschiedener Hilfseinheiten. Die Gesamtstärke belief sich auf 628 Mann.
Im August 1944 wurden 5.500 lettische Wehrpflichtige, welche als ungeeignet für den Fronteinsatz empfunden wurden, zur Luftwaffe als Luftwaffen-Kampfhelfer überstellt. Sie wurden nach Deutschland transportiert und verschiedenen Luftwaffen-Einheiten zugeteilt. Im gleichen Monat wurde der lettischen Jugendorganisation aufgetragen, alle Jugendlichen des Jahrgangs 1928 aufzurufen, wovon schließlich 4.000 Jungen und 1.000 Mädchen als weitere Luftwaffen-Kampfhelfer eingezogen wurden.