Принимаем х за сторону квадрата, а S за его площадь.

получается система

x^2=S

(x+2)(x-3)=S-10

заменяем S на x^2

x^2-3x+2x-6=x^2-10

x=4

Ответ: сторона квадрата 4