из второго y выражаем.

4x-y=-12

y=4x+12

подставляем в первое

3x-2(4x+12)=11

3x-8x-24=11

-5x=11+24=35

x=-7

y=-7*4+12=-28+12=-16

y^2-x^2=(-16)^2-(-7)^2=256-49=207

4x-y=-12 

y=4x+12

3x-2y=11
3x-2*(4x+12)=11
3x-(8x+24)-11=0
3x-8x-24-11=0
-5x-24-11=0
-5x-35=0

x=-35/5

x=-7

4x-y=-12
4*(-7)-y=-12
-28-y+12=0 
-16-y=0 

y=-16

y^2-x^2=(-16)^2-(-7)^2=256-49=207