Verified answer

Решение "в лоб"

h = c - третья сторона и высота к ней, х - кусок с, отсеченный высотой, имеющий общий конец со стороной длиной корень(10)

x^2 + h^2 = 10;

(h - x)^2 + h^2 = 13;

h^2 - 2*x*h + x^2 + h^2 = 13;

h^2 - 2*x*h = 3; x = (h^2 - 3)/(2*h);

((h^2 - 3)/(2*h))^2 + h^2 = 10; Пусть t = h^2;

(t - 3)^2/(4*t) + t = 10; (t - 3)^2 + 4*t^2 - 40*t = 0; 5*t^2 - 46*t + 9 = 0;

t1 = 1/5; t2 = 9;

 h1 = 1/корень(5); лишний корень (x > h)

Остается h = c = 3;