1) Чтобы не запутаться, обозначим возраст сестры сейчас через С, а возраст брата через Б. Так им обоим сейчас 26 лет, то можем составить уравнение, а именно: С + Б = 26 ― 1 -ое уравнение.

2) Через какое-то количество лет, обозначим это количество через Х, возраст брата будет (Б + Х), а возраст сестры будет (С + Х), их общий возраст будет в 5 раз больше, чем возраст брата сейчас, поэтому можем записать: (Б +Х) + (С + Х) = 5Б или С - 4Б + 2Х = 0 ― 2-ое уравнение.

3) Через Х лет возраст брата будет в 3 раза больше, чем возраст сестры сейчас, поэтому можем записать: 3С = Б + Х ― 3-е уравнение

4) Таким образом получается система из 3 уравнений с тремя неизвестными. Решаем систему. Из первого уравнения выражаем Б, получаем Б = 26 - С и подставляем в третье уравнение, получаем:

3С = 26 - С + Х Отсюда находим Х = 4С - 26 , затем значение Х подставляем во второе уравнение, получаем:

С - 4(26 - С) + 2(4С -26) = 0

С - 104 + 4С + 8С - 52 = 0

13С = 156 Отсюда С = 12 - это возраст сестры

Б = 26 - 12 = 14 - это возраст брата.

Ответ: сестре - 12 лет, брату - 14 лет.