Решение.

Длина прямоугольника = х м , ширина = у м .

Длину уменьшили на 4 м , получили (х-4) м .

Ширину увеличили на 1 см , получили (у+1) м .

Получили квадрат. А у квадрата длина и ширина равны, то есть

х-4=у+1   ⇒   х=у+5

Площадь прямоугольника равна  ху  м²

Площадь квадрата равна  (х-4)(у+1)  м²

По условию площадь квадрата меньше площади прямоугольника на 20 м² . Тогда можно записать

(х-4)(у+1)+20=ху

xy+x-4y-4+20=xy

x-4y= -16

Заменим  х  на  (у+5) .

(y+5)-4y= -16

-3y= -21

y=7

x=7+5=12

Cторона квадрата равна   у+1=7+1=8  м  ( или  х-4=12-4=8  м ) .

Ответ: 8 м .