(х+у)^2=13

2) х+у=а

х*у=b

3)(делаешь замену)а^2=13

b+a=7

4) затем решаешь систему с переменными а и b

5) в конце подставляешь