вот решение но я не очень уверена что правильно ,но посмотри сам

Как же все таки любят эту идею суммы квадратов,особенно в систему ее запихивать.

Складываем оба уравнения:

x^2+12y+y^2-4x=-40

(x^2-4x+4) +(y^2+12y+36)=0

(x-2)^2+(y+6)^2=0

И вот  она уже 100 процентов  шаблонная идея:

Сумма квадратов 0,только когда каждый из них 0

x=2

y=-6

Тк  уравнение является преобразованием сумму,нужно  выполнить проверку для одного из уравнений:

(-6)^2-8=28  (верно)

Ответ: x=2 ;  y=-6