"Нижние" эти земли прежде всего потому, что они лежат в низовьях Рейна (собственно, выше по его течению при римлянах существовала Верхняя Германия). Учитывая колоссальное значение Рейна для региона, это вполне логичный взгляд на вопрос: даже люди, в жизни не видевшие ни одной карты, прекрасно понимали принцип "ниже по реке".

Кроме того, местность в самом деле низинная: у современной страны половина территории ниже уровня моря.