a=4+b; Это первая формула, подставим во вторую:

(4+b)b = 24;

b^2+4b-24=0; решаем квадратное уравнение

b1 = -2 - 2√7;

b2 = -2 + 2√7;

a=4+b;

a1=4 - 2 - 2√7 = 2 - 2√7;

a2=4 - 2 + 2√7 = 2 + 2√7;