Задачка в целом несложная. Принцип здесь такой:

сначала рассуждаем, как найти вероятность, что точка попадет в эту самую окружность. А как известно, вероятность противоположного события будет

Теперь как найти вероятность попадания во вписанную окружность. Геометрическая вероятность в данном случае будет представлять собой отношение площади круга, ограниченного окружностью, вписанной в треугольник, к площади этого самого треугольника, так как попадание точки в какое-то конкретное место равновероятно по отношению к остальным местам.

Пусть у треугольника сторона , его плошадь:

Для любого треугольника известно, что , то есть это произведение полупериметра на радиус вписанной окружности.

Радиус вписанной окружности нашли, найдем площадь круга этого радиуса

А теперь найдем отношение площадей:

Полученное число это , а нам необходимо

Ответ:  

Задача на применение геометрической вероятности.

Примем за меру площадь равностороннего треугольника и круга, вписанного в него. Пусть сторона треугольника х, тогда площадь s=х²√3/4

радиус вписанной окружности равен s/р=х²√3/(4*3x/2)=√3x/6, площадь круга равна πr²=π3х²/36=πх²/12

Найдем площадь части треугольника, которая не попадает в круг,

х²√3/4-π*х²/12=х²(√3-π)/12

Искомая вероятность равна  ( х²(√3-π)/12)/(х²√3/4)=(√3-π)/(3√3)=

(3*3-π√3)/3*3=(9-π√3)/9