делаем замену:

получим:

домножаем второе на 2

вычитаем из второго первое

5у=5

у=1

х=10-у=9

возвращаемся к замене:

b≠0 => a=b

подставляем b=a в первое:

a²=9

a²-9=0

(a-3)(a+3)=0

ответ (a,b)={ (3;3); (-3;-3))