2x^2+xy-y^2=540

(x+y)(2x-y)=540

первый множитель больше второго поэтому я нашла разложение 540 на множители

27*20;30*18;36*15;45*12;54*10;60*9;90*6;108*5;135*4;180*3;270*2

и решила систему для этих пар чисел с учетом что х и у должны быть целые

30 и 18 х=16

36 и 15 х=17

45 и 12 х=19

60 и 9 х=23

90 и 6 х=28

180 и 3 х=61

Итого 16+17+19+23+28+61=164