Verified answer

Меньшая окружность проходит через 3 вершины, одна из который - острый угол, а 2 - вершины тупых углов. Острый угол является вписанным в эту окружность. И, наоборот, большая окружность проходит через вершину острого угола, потом- тупого, и - опять острого. В большую окружность вписан тупой угол.  

r = 5; R = 12;  a = ?

Обозначим за Ф половину тупого угла ромба. В треугольнике, вписанном в малую окружность, это будет острый угол, противолежащий стороне а;

Тогда по теореме синусов

a = 2*r*sin(Ф); sin(Ф) = a/(2*r);

Для тупоугольного равнобедренного треугольника, вписанного в большую окружность, угол при основании (противолежащий стороне а) равен (180 - 2*Ф)/2 = 90 - Ф;

Поэтому по той же теореме синусов

a = 2*R*sin(90 - Ф) = 2*R*cos(Ф); cos(Ф) = a/(2*R);

Осталось возвести это в квадрат и сложить

1 = a^2/(2*r)^2 + a^2/(2*R)^2; (2/a)^2 = 1/r^2 + 1/R^2;

Нет смысла упрощать это выражение в общем виде, подставим числа.

2/a = корень(1/25 + 1/144) = 13/60; (опять пифагорова тройка 5,12,13) 

a = 120/13;