подставлю y из второго в первое

x^2+(x-5)^2=13

x^2+x^2-10x+25-13=0

2x^2-10x+12=0

x^2-5x+6=0

D=25-24=1

x1=(5-1)/2=2; x2=(5+1)/2=3

y1=2-5=-3; y2=3-5=-2