наверное имелось ввиду дробь 5m^2-8m-4/m^3-4m^2+4m

Тогда разложим на множители числитель. Для этого найдем корни квадратного трехчлена 5m^2-8m-4=0 по т.Виета х1=-0,4  x2=2                                              

 (зная, что ax^2+bx+c=a(x-x1)*(x-x2) ) получаем, что

5m^2-8m-4=5*(m+0,4)*(m-2)=(5m+2)*(m-2)

Разложим на множители знаменатель. Вынесем общий множитель m за скобки, и оставшийся в скобках квадратный трехчлен разложим аналогично числителю:  m^3-4m^2+4m=m*(m^2-4m+4)= m*(m-2)*(m-2) 
Сокращаем нашу дробь (числитель и знаменатель делим на (m-2)

 5m^2-8m-4/m^3-4m^2+4m=  (5m+2)*(m-2)/ m*(m-2)*(m-2)=5m+2/m*(m-2)= 5m+2/m^2-2m 

Ответ:  5m+2/m^2-2m