P=2(a+b)

2(a+b)=20 => a+b=10

b=10-a

S=ab=a*(10-a)=10a-a²

Рассмотрим полученное уравнение как уравнение функции и найдем её максимум.

f(a)=10a-a²

f⁾(a)=(10a-a²)⁾=10-2a

10-2a=0 => a=5

b=10-5=5 , значит наш прямоугольник является квадратом , площадь которого равна S=a²=5²=25 cм²

Стороны прямоугольника должны быть равны между собой и равны 5 см, тогда прямоугольник будет иметь максимальную площадь равную 25 см²