(3a+1)*q=a+5 и (a+5)*q=a-7

q=(a+5)/(3a+1)

(a+5)^2=(a-7)(3a+1)

a^2+10a+25=3a^2-21a+a-7

a^2+10a+25-3a^2+20a+7=0

-2a^2+30a+32=0

a^2-15a-16=0

D=(-15)^2-4*(-16)=225+64=289

a1=(15+17)/2=32/2=16

a2=(15-17)/2=-2/2=-1

Так как для геометрической прогрессии  формула: 
b(n-1)*b(n+1)=b(n)*b(n), то можно составить простое уравнение: 

(3a+1)*(a-7)=(a+5)^2 
Дальше надо решать как  квадратное уравнение. 
Через общие формулы решения.