Обозначим стороны тр-ка  a, a и b и составим систему

a^2 * b = 64

2a + b= 12

b = 12 - 2a     

a^2 * (12 - 2a) = 64

12a^2 - 2a^3 - 64 = 0

a^3 - 6a^2 + 32 =0        

    перебираем делители свободного члена и находим среди них тот, который обращает в ноль левую часть. это число    -2

Т.о. кубический многочлен делится на    a+2

частное от деления многочлена на двучлен равно  a^2 - 8a + 16

решаем уравнение   a^2 - 8a + 16 = 0

D = 64 - 64 = 0      a = 8/2 = 4

Кубическое уравнение имеет 3 корня    -2, 4, 4, из которых подходит   a = 4

b = 12 - 2*4 = 4

Получается равносторонний тр-к со стороной 4

Проверка :  4*4*4 = 64     P = 4+4+4 =12