On sait que la plaine d’Allemagne du Nord s’est formée au cours du Pléistocène à la suite des diverses avancées glaciaires des inlandsis scandinaves terrestres ainsi que par des processus géomorphologiques périglaciaires. Le terrain peut être considéré comme faisant partie de l’Ancienne ou de la Jeune Dérive (Alt- ou Jungmoräne), selon qu’il a été formé ou non par les nappes glaciaires de la dernière période glaciaire, celle du Weichselian. Le relief de la surface varie de plat à ondulé. Les points les plus bas sont des landes basses et d’anciens marais en bordure de la crête de terre sèche à l’ouest du Schleswig-Holstein (le marais de Wilster est à 3,5 mètres au-dessous du niveau de la mer) et au nord-ouest de la Basse-Saxe (Freepsum, 2,3 mètres au-dessous du niveau de la mer). Les points les plus élevés peuvent être appelés moraines terminales des glaciations de la Vistule et de Hall (selon la période glaciaire qui les a formées) – par exemple sur la lande de Fläming (200 mètres au-dessus du niveau de la mer) et les collines de Helpt (179 mètres). Après les périodes glaciaires, des tourbières hautes, alimentées par la pluie, sont apparues dans l’ouest et le nord de la Basse-Saxe pendant les périodes chaudes de fortes précipitations (sous l’influence de la période chaude médiévale). Ces tourbières étaient autrefois très répandues, mais une grande partie de ce terrain a maintenant été drainée ou remplacée d’une autre manière.
Les zones côtières sont constituées de marais lacustres et fluviaux holocènes et de lagunes reliées à des terrains pléistocènes d’Old et Young Drift à divers stades de formation et d’altération. Après ou pendant le retrait des glaciers, le sable transporté par le vent a souvent formé des dunes, qui ont ensuite été fixées par la végétation. L’intervention de l’homme a provoqué l’apparition de landes ouvertes, comme la lande de Lunebourg, et des mesures telles que le déboisement et le Plaggenhieb (enlèvement de la terre végétale pour l’utiliser comme engrais ailleurs) ont provoqué un large appauvrissement du sol (Podsol). Les sols les plus fertiles sont les jeunes marais (Auen-Vegen) et les régions de Börde (Hildesheim Börde, Magdeburg Börde, avec leurs sols fertiles de lœss). Dans les sols les plus pauvres, par exemple dans le Teufelsmoor, on trouve des tourbières de haut niveau. Dans les zones de lœss de la plaine se trouvent les plus anciens lieux de peuplement d’Allemagne (culture de la poterie linéaire).
La partie nord-est de la plaine (Young Drift) est géomorphologiquement distincte et contient une multitude de lacs (par exemple le lac de Mueritz dans le plateau lacustre du Mecklembourg) qui sont des vestiges de la dernière période glaciaire. Le retrait des glaciers a laissé ce paysage derrière lui il y a environ 16 000 à 13 000 ans. En comparaison, les plaines sèches du nord-ouest de l’Allemagne (Basse-Saxe, ouest du Schleswig-Holstein et région de Bochum en Rhénanie-du-Nord-Westphalie) sont plus fortement altérées et nivelées (Old Drift), car les dernières glaciations à grande échelle se sont produites ici il y a au moins 130 000 ans.
La région est drainée par des rivières qui se jettent vers le nord dans la mer du Nord ou la Baltique. Le Rhin, l’Ems, la Weser, l’Elbe et la Havel sont les fleuves les plus importants qui drainent les basses terres nord-allemandes vers la mer du Nord et ont créé des forêts dans leurs plaines inondables et leurs plis, par exemple la Spreewald (« forêt de la Spree »). Seule une petite partie de la plaine d’Allemagne du Nord se trouve dans le bassin versant de l’Oder et de la Neiße, qui se jettent dans la Baltique.