Пусть сторона равностороннего треугольника равна а, тогда его высота - а√3/2. Найдем их разность:

а - а√3/2 = (2а - а√3)/2 = а(2-√3)/2 = b;

a = 2b/(2-√3).

S = a^2√3/4 = b^2√3/((2-√3)^2).