Verified answer

Продлим стороны квадратов вдоль "у" и "х" до пересечения.

Тангенс угла α наклона секущей линии к стороне квадрата с "х" равен:

tg α = (b + y)/(a + x).

Найдём стороны "k" и "m" серого треугольника.

k = a - (y(b + y)/(a + x)).

m = b - (x(b + y)/(a + x)).

Тогда искомая площадь равна:

S = (1/2)k*m = (1/2)*(a - (y(b + y)/(a + x)))*(b - (x(b + y)/(a + x))).

После упрощения получаем S = (1/2)*((ab - xy)²/((a + x)(b + y))).