Ответ:  Неоднократно проверял решение. Ошибку в решении не нашел.

Масса галактики  ≈ 7,13*10^9  масс Солнца.

Объяснение:  Дано:

Радиус галактики  Rг = 4*10^4 св. лет = 12264,1 парсек = 3,784346*10^20 м

Орбитальная скорость звезд на краю галактики V = 50 км/с = 5*10^4 м/с

Гравитационная постоянная  G = 6,6743*10^-11 м^3,с^-2, кг^-1

Масса Солнца Мс = 1,9885*10^30 кг

Найти массу галактики в массах Солнца        Мг/Мс - ?

При движении тела по окружности на него действует центростремительное ускорение, определяемое выражением: ац = V²/R.  В нашем случае на звезды, на краю галактики, действует центростремительное ускорение ац = V²/Rг, это с одной стороны.  С другой стороны,   галактика на расстоянии своего радиуса, т.е. на расстоянии Rг, своей массой создает ускорение свободного падения, определяемое выражением: gг = G*Mг/Rг².   Это ускорение свободного падения и является центростремительным ускорением для звезд на краю галактики.  Таким образом, можно записать уравнение:  ац = gг,

или V²/Rг = G*Mг/Rг².     Из этого уравнения Мг = V²*Rг/ G =

= (5*10^4)²* 3,784346*10^20/6,6743*10^-11 = 1,4175…*10^40 кг.

Найдем массу галактики в массах Солнца:  Мг/Мс =  1,4175…*10^40/1,9885*10^30 ≈ 7128522412,1 …  Масса галактики  ≈ 7,13*10^9  масс Солнца.

Подозреваю, что тот, кто задал задачу, неверно принял радиус галактики, посчитав, что 40000 св.лет это не радиус, а диаметр. Если принять радиус  галактики 20000 св. лет, то ответ будет 7,13*10^9/2 = 3,565*10^9, т.е. приблизительно 3.57*10^9.  Ответ  б).  Но, в условии радиус равен 40000 св.лет.  И верный ответ тот, который я получил.