Из первого

xy(x^2+y^2)=10

вместо скобок подставляем второе

xy*5=10

x=2/y

Подставляем x во второе

4/y^2 + y^2 = 5

(4 + y^4 - 5*y^2)/y^2 = 0

Берём числитель как биквадратное уравнение

делаем подстановку

a=y^2

получаем

a^2 - 5a + 4 = 0

решаем

a1=1

a2=4

возвращаемся к иксу

x1=1

x2= -1

x3=2

x4= -2

находим игреки

y1=sqrt(5-1^2)=2 или -2

y2=sqrt(5-(-1)^2)=2 или -2

y3=sqrt(5-2^2)=1 или -1

y4=sqrt(5-(-2)^2)=1 или -1

Ответ: (1;2) (1;-2) (-1;2) (-1;-2) (2;1) (-2;1) (2;-1) (-2;-1)