cos2(в квадрате)x замени на (1 - sin2(в квадрате)x)/ Получишь квадратное уравнение с переменной sinx. Пусть sinx=t, тогда получим 5 - 5t^2 (в квадрате) +6t - 6 = 0 и т.д. Надеюсь понятно.