Решаем методом подстановки:

{2x²-3y²+4x-8y=5 ⇒ 2((1+3y)/2)²-3y²+4((1+3y)/2)-8y=5

{2x-3y=1              ⇒ {x=(1+3y)/2

2(1+6y+9y²)/4-3y²+2(1+3y)-8y=5

(1+6y+9y²)2-3y²+2+6y-8y=5 (подбираем общий знаменатель: в данном примере он равен 2)

1+6y+9y²-6y²+4+12y-16y-5=0

3y²+2y=0

y(3y+2)=0

y₁=0   3y₂+2=0

        3y₂=-2

        y₂=-2/3

x₁=((1+3×0)/2)=2

x₂=(1+3×(-2/3))/2=1-2/2=-1/2

Ответ: (2;0) (-1/2;-2/3)

из уравнения 2x-3y=1  находим x=(1+3y)/2   подставляя в первое уравнение получаем
(1+3y)^2-3y^2+2+6y-8y-5=0 после упрощения получаем
3y^2+2y-1=0  решая квадратное уравнение находим корни y_1=1/3.   y_2=-1.  
следовательно можно найти x.   x_1=1   x_2=-1