Для удобства делаем замену: а=1/x; b=1/y:

a-3b=1 =>a=1+3b
3a-b=1 

3(1+3b)-b=1
3+9b-b=1
8b=-2
b=-1/4
a=1-3/4=1/4

1/x=1/4
1/y=-1/4

x=4
y=-4

Ответ: (4;-4) 

x(y+3)=x(y-1)/3

3(y+3)=y-1

3y+9=y-1

y=-5

x=2,5