Числитель 4cos 4a+(1+cos 8a)+2=4cos 4a+2(cos 4a)^2+2

Знаменатель -4cos 4a+(1+cos 8a)+2=2(cos 4a)^2+2-4cos 4a

Для простоты обозначим cos 4a=t

4cos 4a+2(cos 4a)^2+2=2t^2+4t+2=2(t^2+2t+1)=2*(t+1)^2

2(cos 4a)^2+2-4cos 4a=2t^2-4t+2=2*(t^2-2t+1)=2(t-1)^2=2*(1-t)^2

Сокращаем на 2 и получаем ((t+1)^2)/((1-t)^2)=(1+cos 4a)^2/(1-cos 4a)^2=

(2*(cos 2a))^2)^2/(2*(cos 2a))^2)^2=(cos 2a)^4/(sin 2a)^4=(ctg 2a)^4

Здесь используется формула (1+cos 2a)=2*(cos a)^2,(1-cos 2a)=2*(sin a)^2