Для начало объем усеченного     конуса равен  V=pi*H/3 (r^2+R*r+R^2)

Диагональ осевого сечения выходит равнобедренная трапеция , обозначим радиус верхний за х тогда второй,  2х,    основания это трапеций будут диаметры  окружности усеченной трапеций  то есть тогда диаметр  верхней 2х,    нижней 4х 

тогда диагональ равна 5^2+(3x)^2=13^2

9x^2=144

x=4

значит радиус равна  4 см и  8см 

ставим в формулу 

V=pi*5/3 (4^2+4*8+8^2)=5pi/3 (16+32+64)=5*112pi/3=560*pi/3 

Verified answer

рассмотрим сечение: 

в сечении у нас равнобедренная трапеция

по теореме пифагора найдём среднюю линию:

168-25=144

ср линия = 12 = (a+b)/2 

a + b = 24

по отношению находим меньшее основание

24 \ 3 = 8

большее 16 соответсвенно

радиус в 2 раза меньше 

4 и 8 соответственно

V = 586.43 или 560\3*пи