пусть сейчас брату - "х" лет, а сестре "у" лет

тогда 3 года назад (х-3) он был старше сестры в 3 раза (3*(у-3)), то есть х-3=3*(у-3)=3у-9

9 лет назад (х-9) он был старше сестры в 5 раз (5*(у-9)),то есть х-9=5*(у-9)=5у-45

У нас 2 уравнения, решаем:

выводим х:  х=3у-9+3=3у-6

подставляем: 3у-6-9=5у-45

5у-3у=45-6-9;  2у=30; у=15 - возраст сестры

возраст брата: (15-3)*3+3=39  или (15-9)*5+9=39 лет