x^2-2x-8>0

сначала представляем как кв. уравнение

x^2-2x-8=0

ищем корни по т. Виета(можно и через дискриминант)

x1+x2=2            x1=4  x2= -2

x1*x2= -8

представляем в виде произведения

(x-4)(x+2)=0

возвращаемся к неравенству

(x-4)(x+2)>0

получаем две системы, которые объединены в совокупность

x-4<0                x-4>0

x+2<0               x+2>0

решаем

из первой системы                          из второй системы

x<-2                                                      x>4

т.к это совокупность то

x∈(-∞; -2) ∪ (4; +∞)