sin^2 x-3sin x cos x + a cos^2 x = 0

Разделим обе части уравнения на  cos^2 x (он не равен 0, поэтому так можно).

tg^2 x + 3tg x + a = 0

Это квадратное уравнение относительно tg x. его дискриминант D=9-4a.

А т.к. уравнению корней иметь нельзя, то D<0.

 9-4a<0

4a>9

a>2,25

 Отпет: при  a>2,25