представим

c*sin^2(x)=c*(1-cos^2(x))

2*sinx*cosx=sin(2x)

тогда получим:

(a-c)*cos^2(x)+b*sin(2x)+c

применим формулу понижения степени:

cos^2(x)=(1+cos(2x))/2

1/2* (a-c)*(1+cos(2x)) +b*sin(2x)+c

1/2*(a-c)*cos(2x)+b*sin(2x)+c+a/2-c/2

1/2* (a-c)*cos(2x)+b*sin(2x)+1/2* (a+c)

Пусть (a-c)/2=m ; (a+c)/2=n для  удобства.(m,n-абсолютно произвольны)

m*cos(2x)+b*sin(2x)+n

Применим метод вспомогательного  аргумента:

√(m^2+b^2)*(m/√(m^2+b^2)  *cos(2x)+b/√(m^2+b^2) *sin(2x) )+n

m/√(m^2+b^2)=sin(s)

b/√(m^2+b^2)=cos(s)

Тогда получим:

√(m^2+b^2)*sin(2x+s)+n

√(m^2+b^2)=√( (a-c)^2/4 + b^2)

Я  так понимаю что a,b,с  здесь  не переменные ,а просто константы,тк   ясно что тогда наибольшего значения существовать не будет  ибо можно брать сколь угодно большое значение  b и выражение будет стремится к бесконечности,или  так же  брать сколь угодно малое n чтобы значение стремилось к -бесконечности.

Если же считать,что a,b,с  просто константы, то максимум  будет когда

sin(2x+s)=1, а минимум когда sin(2x+s)=-1 (синус определен от -1  до 1)

Тогда максимум:

(a+c)/2 +√( (a-c)^2/4 + b^2) (все выражение в скобках под корнем)

Минимум:

(a+c)/2 -√( (a-c)^2/4 + b^2)