1) Если концентрацию раствора выразить в долях единицы,  то массу растворенного вещества в граммах находят по формуле:

m(в-во) = ω * m(p-p)

где: m(p-p) - масса раствора в граммах,

ω - массовая доля растворенного вещества, выраженная в долях единицы.

5% - это 0,05 в долях единицы, а 15% - 0,15.

2) Обозначим концентрацию нового раствора через Х.

При смешивании  растворов массы растворенных веществ складываются.  На основании всего выше изложенного составляем уравнение:0

0,05*40 + 0,15*80 = Х*(40 + 80)

2 + 12 = 120Х

120Х = 14

Х = 0,1167 ( или 11,67% )