Проще всего решать последовательно
S(n-1)=S(n) - b(n)
b(n-1)=b(n)/q

Тогда получишь b(0)=3, и n=5

А если через уравнения, то первое (если b(0) обозначить за х) x*2^n=96
второе x*(1 - 2^(n+1)) / (1 - 2) =189
можем обозначить 2^n pза y , тогда будет xy=96 и (1-2y)*x=189
Поделив второе уравнение на первое получим (1-2y) / y = 189 / 96 =>
198 y = 96 - 192 y => 4 y = 96 => y = 32.
Зная y из первого уравнения получаем х=96/32 = 3
Раз 2^n = 32 , то n =5.
Все?