AzStyle Из подобия треугольников следует:
a и b -катеты
x-сторона квадрата
a/x=b/(b-x)
ab-ax=bx
ab=x(a+b)
x=ab/(a+b)
так как площадь квадрата равна S=x^2=(ab/(a+b))^2