использую формулу

1+tg^2x=1/cos^2x

3(1/cos^2x-1)+5tgx-8=0

3tg^2x+5tgx-8=0

tgx=t

3t^2+5t-8=0

D=25+96=121

t1=(-5-11)/6=-16/6=-8/3

t2=(-5+11)/6=1

tgx=1; x1=pi/4+pin; n⊂Z

tgx=-8/3; x2=arg(-8/3)+pim; m⊂Z

(в указанных решениях косинус в 0 не обращается)