Oksia2005 Решение во вложении. Смысл в следующем:
1) Применить тригонометрические формулы:расписать cos2x, затем используя cos²x+sin²x=1, заменить sin²x
2) выполнить замену cosx=t, решить квадратное уравнение.
3) вернуться к замене, найти корни.  

OknoLombarda Cos2x=cos^2x-sin^2x
Подставим это в уравнение

cos^2x+sin^2x=1
Зная это тождество, распишем 2 как 1+1 и 1 заменим на левую часть равенства. Получится следующее:
cos^2x-sin^2x-3cosx+cos^2x+sin^2x+1=0

Приведём подобные:
2cos^2x-3cosx+1=0

Теперь у нас получилось обычное квадратное уравнение, корнем которого является cosx. Но для удобства обозначим cosx как y. У нас получится:
2y^2-3y+1=0

D=9-4*2*1=1
y1=(3-1)/4=1/2
y2=(3+1)/4=1

Теперь найдём х:
y1=cosx1
cosx1=1/2
x1=±arccos 1/2 +2Pi*n, n принадлежит Z
x1=±Pi/3+2Pi*n, n принадлежит Z

cosx2=y2
cosx2=1
x2=±arccos1+2Pi*n, n принадлежит Z
x2=2Pi*n, n принадлежит Z