Функция cos x ограничена [-1; 1]. Функция (sin x)^2 ограничена [0; 1].
Причем, при cos x = -1 будет (sin x)^2 = 0, x = pi + 2pi*n
При cos x = 1 будет (sin x)^2 = 0, x = 2pi*n
А при cos x = 0 будет (sin x)^2 = 1, x = pi/2 + pi*n
Подставляем эти значения:
1) y(pi+2pi*n) = (√a+2+1) / (a+2√a+1) = (√a+3) / (√a+1)^2
a) (√a+3) / (√a+1)^2 ≤ 2
b) (√a+3) / (√a+1)^2 ≥ 3

2) y(2pi*n) = (√a-2+1) / (a+2√a+1) = (√a-1) / (√a+1)^2
a) (√a-1) / (√a+1)^2 ≤ 2
b) (√a-1) / (√a+1)^2 ≥ 3

3) y(pi/2+pi*n) = (√a+1) / (1+a+2√a+1) = (√a+1) / (1+(√a+1)^2)
a) (√a+1) / (1+(√a+1)^2) ≤ 2
b) (√a+1) / (1+(√a+1)^2) ≥ 3

Решаем эти 6 неравенств и получаем результат.
У меня уже сил нет это решать, давайте сами.