Я не знаю, как эта задача решается коротко, поэтому введу несколько вспомогательных переменных.

По условию девочек вначале 40%. Если войдут ещё 5 девочек, то их количество вырастет до 50%. Пусть вначале девочек было [tex]n[/tex], а всего учеников [tex]k[/tex]. Надо найти [tex](k-n)[/tex].

[tex]\begin{cases}n=\dfrac{40}{100}k\\n+5=\dfrac{50}{100}(k+5)\end{cases}\\[/tex]

Вычтем из второго уравнения первое:

[tex]\dfrac{50}{100}(k+5)-\dfrac{40}{100}k=5\\\dfrac 12 (k+5)-\dfrac 25 k=5\\5(k+5)-4k=50\\5k+25-4k=50\\k=25\\k-n=25-\dfrac{40}{100}k=25-\dfrac{2}{5} \cdot 25=\dfrac 35 \cdot 25=15[/tex]

Ответ: 15 мальчиков.