Преобразуем первое уравнение:

x^2+y^2=x^2+y^2+2xy-2xy=(x+y)^2-2xy=10

Обозначим x+y=t, xy=m

Тогда имеем систему

{t^2-2m=10

{t+m=-1

Умножаем второе уравнения на 2 и прибавляем к первому

t^2+2t-8=0

Отсюда t=2, t=-4, но m=-1-t

Значит

t=2 => m=-3

t=-4 => m=3

Теперь осталось решить 2 системы:

{x+y=2

{xy=-3, решая получаем (-1; 3) и (3;-1)

и

{x+y=-4

{xy=3 решая получаем (-3;-1), (-1;-3)

Теперь получаем, что наибольшее x/y=(-3)/(-1)=3