Ответ: r = 5*(4+√5)/11

Объяснение:

A,B,С - точки касания  внутренних окружностей с внешней

O1,O2,O3 - центры внутренних окружностей

O-центр внешней окружности. (смотрите рисунок)

O1S- высота

r- радиус красной окружности

Из условий касания окружностей и симметрии  имеем :

O1O=5-r

O1O2 =O1O3 = 2+r

O2S=O3S=2

OO2=OO3= 5-2 = 3

По теореме Пифагора:

OS = √(3^2- 2^2) = √5

O1S = 5+√5  -r

По теореме Пифагора:

(5+√5  -r)^2 = (2+r)^2 - 2^2

(2+r)^2 - (5+√5  -r)^2 = 4

(7+√5)*(  -3-√5+2r) =4

-3-√5+2r = 4/(7+√5)  = 4*(7-√5)/44 = (7-√5)/11

-33 - 11√5 +22r = 7-√5

22r = 40 +10√5

r = (20+5√5)/11 = 5*(4+√5)/11