M(газовой смеси) = M(водорода) · D(по водороду) 
D(по водороду) = M(газовой смеси) / M(водорода) 
Средняя молярная масса смеси из двух газов считается по такой формуле: 
(M1*V1 + M2*V2)/(V1+V2) 
Допустим, у нас был 1 л. водорода и 1 л. гелия, тогда имеем: 
Мср. = M(газовой смеси) = (2*1+4*1)/(1+1) = 3 

D(по водороду) = 3 / 2 = 1,5 
То ли я ошибаюсь, то ли в ответах ошибка.