Из первого уравнения выразим и подставим в предыдущее равенство:

Отсюда получаем

Подставим первое решение в первое уравнение получим систему

,

которое по теореме Виета равносильно решению квадратного трехчлена , который решений не имеет (D < 0)

Для второго решения получим систему:

,

которое имеет решение x = 1, y = 1

x=1

y=1

решение сложное, но возможное, необходимо из первого уравнения выделить x+y=(5-xy)/2

а во втором уравнении икс квадрат плюс игрек квадрат представить как

(x+y)^2-2xy, тогда получится квадратное уравнение, где xy обозначим за a

a^2-24a+23=0

решая его, получим корни a=1 и a=23

a=23 не подходит, т.е. xy=1