Найдем гипотенузу прямоугольного треугольника.

√(6²+8²)=√100=10

Значит сторона правильного треугольника равна 10 см.

Найдем полупериметр правильного треугольника со стороной 10:

р=10*3/2=15 см

Найдем радиус вписанной в треугольник окружности:

r=√(p-10)³/p=√(125/15)=5/√3

Ответ: 5/√3 см

Рассмотрим второй вариант, если бы в условии нужно было узнать возможно ли построить  равносторонний треугольник внутри прямоугольного, не пересекающийся с исходным, одной стороной лежащий на гипотенузе и с вершиной, совпадающей с вершиной прямого угла  и если возможно - найти радиус вписанной окружности в этот треугольник.

Решение: В равностороннем треугольнике все его внутренние углы равны 60°. поэтому, нужно убедиться, что оба непрямых угла прямоугольного треугольника меньше 60°. Для этого достаточно определить один уз углов, прилегающих  к гипотенузе. Т.к. длины всех сторон уже известны (6,  8 и  10 см), найдем отношение катета длиной 8 к гипотенузе. 8/10=0,8. arcsin 0,8≈53°<60°, значит и второй угол 180-90-53≈37°<60°.

Делаем вывод, что треугольник с заданными параметрами вписать можно.

Очевидно, что высота, опущенная из вершины прямого угла на гипотенузу прямоугольного треугольника, совпадает с высотой искомого равностороннего треугольника. Найдем эту высоту.

h=6*sin(arcsin 0,8)=6*0.8=4.8 см

Найдем теперь сторону равностороннего  треугольника с высотой 4,8 см.

а=4,8/sin60°=9.6/√3

Радиус вписанной в равносторонний треугольник окружности:

r=a/(2√3)=4,8/3=1,6

ответ: 1,6 см

на фото.................