3x^2-8xy+2y^2         3x^2-8xy+2y^2     3(1+x)^2-8x(1+x)+2(1+x)^2 

y-x=1                       y=1+x                  y=1+x

3+3x^2+6x-8x-8x^2+2+2x^2+4x         3x^2-2x-5=0

y=1+x                                               y=1+x

x1= 5/3   x2=-1

y1=8/3    y2=0

наибольшее значение выражения 5/3

Ответ: 5/3