Чтобы дробь была ≥ 0, нужно чтобы и знаменатель, и числитель были одного знака

x²-2x-1<0

x²-2x-1=0

D = (-2)²- 4 * (-1) = 4+4 = 8 = 2√2

x₁₂ = 2±2√2/2 = 1±√2

x∈( 1-√2; 1+√2)

Ответ: x∈( 1-√2; 1+√2)

(x-5)²<√7(x-5)

Пусть (x-5) = t, тогда

t² < t√7

t² - t√7 <0

t * (t - √7) < 0

t * (t - √7) = 0

t - √7 = 0  ;  t=0

t = √7

Вернёмся к замене

x - 5 = 0 ;  x - 5 = √7

x = 5       ;  x = 5 + √7

x∈( 5; 5 +√7 )

Ответ: x∈( 5; 5 +√7 )